ثم انتقل إلى بلاد فارس، وصحب عضد الدولة بن بويه، وتقدّم عنده، وعلت منزلته؛ حتى قال عضد الدولة: أنا غلام أبي علي الفسوي في النحو. وصنّف له كتاب الإيضاح والتكملة في النحو.
ويحكى أنه كان يوما في الميدان بشيراز، يساير عضد الدولة فقال له: لم انتصب المستثنى زيدا؟ فقال له عضد الدولة: هلّا رفعته، وقدرت الفعل، نحو: امتنع زيد، فانقطع أبو علي «١» ، وقال له: هذا الجواب ميداني، ثم إنه لمّا رجع إلى منزله وضع في ذلك كلاما، وحمله إليه فاستحسنه. وذكر في الإيضاح، أنّه بالفعل المقدّم بتقوية إلّا.
وحكى أبو القاسم أحمد الأندلسي، قال: جرى ذكر الشعر بحضرة أبي علي وأنا حاضر، فقال: إني لأغبطكم على قول الشعر فإن خاطري لا يوافقني على قوله، مع تحقيقي العلوم التي هي مراده، فقال له رجل: فما قلت قط شيئا منه؟ قال: ما أعلم أن لي شعرا إلا قولي في الشيب: [الوافر]
خضبت الشّيب لمّا كان عيبا ... وخضب الشّيب أولى أن يعابا
ولم أخضب مخافة هجر خلّ ... ولا عيبا خشيت ولا عتابا
قال ابن خلكان:«وقد أخذ في ذكره وبالجملة، فهو أشهر من أن يذكر فضله، ويعدّد.
وكان متهما بالاعتزال» .
ومولده سنة ثمان وثمانين ومئتين، وتوفي لسبع عشرة ليلة خلت من أحد الربيعين، سنة سبع وسبعين وثلاثمئة ببغداد. وفسا من بلد فارس «٢» .