وُلد أبو عليٍّ بمدينة (فسا) من مدن بلاد فارس (١) سنة (٢٨٨هـ) ، وتجوَّل في كثير من البلدان، فقدم بغداد واستوطنها سنة (٣٠٧ هـ) ، ورحل إلى الموصل سنة (٣٣٧ هـ) ، وفيها لقيه ابن جني، ثم رحل إلى حلب سنة (٣٤١هـ) ، وأقام بها مدة عند سيف الدولة، ثم عاد إلى فارس وصحب عضد الدولة البويهي، وتقدم عنده، وعلت منزلته وعنه أخذ عضدُ الدولة النحو حتى قال فيه: أنا غلام أبي عليٍّ النحوي الفَسَوي في النحو. وله صنَّف أبو عليِّ كتاب ((الإيضاح)) في النحو، فلما حمله إليه استقصره عضد الدولة، وقال له: ما زدتَ على ما أعرفُ شيئاً وإنما يصلُحُ للصِّبيان، فمضى أبو عليٍّ وصنف كتاب ((التكملة)) وحملها إليه، فلما وقف عليها عضدُ الدولة قال: غضب الشَّيخُ، وجاء بما لا نفهمه نحن ولا هو. ثم رحل أبو عليٍّ إلى بغداد واستقرَّ فيها إلى أن وافته منيَّتُهُ سنة (٣٧٧هـ) ، وقد جاوز التسعين من عمره. رحمه الله رحمةً واسعة.
أخذ أبو عليٍّ عن جلَّةٍ من علماء زمانه، أشهرهم (٢) :
أبو إسحاق الزجَّاج (ت ٣١١ هـ) ، وأبو الحسن علي بن سليمان الأخفش الأصغر (ت ٣١٥ هـ) ، وأبو بكر محمد بن السري بن السراج (ت٣١٦ هـ) ، وأبو بكر بن الخياط (ت ٣٢٠ هـ) ، وأبو بكر محمد بن الحسن بن دريد (ت٣٢١ هـ) ، وأبو بكر بن مجاهد (ت ٣٢٤ هـ) ، وأبو بكر مبرمان (ت٣٢٥هـ) .
وبرع له تلامذةٌ أجلاَّءُ أشهرُهُم:
أبو الفح عثمان بن جني (ت ٣٩٢ هـ) ، وأبو نصر إسماعيل بن حماد الجوهري (ت٣٩٣ هـ) ، وأبو طالب العبدي (ت ٤٠٦ هـ) ، وأبو عبد الله محمد بن عثمان بن بلبل (ت ٤١٠ هـ) ، وعلي بن عبد الله السمسمي (ت٤١٥ هـ) ، وأبو الحسن علي بن عيسى الربعي (ت ٤٢٠ هـ) ، وأبو علي المرزوقي (ت٤٢١ هـ) ، وابنُ أخته أبو الحسين محمد بن الحسين بن عبد الوارث الفارسي النحوي (ت ٤٢١ هـ) ، وغيرهم (٣) .
وقد عاصر أبا عليٍّ ثلَّةٌ من العلماء، كان من أبرزهم: