قال ابن خلكان: كان أعلم المتقدمين والمتأخرين بالنحو، ولم يوضع فيه مثل كتابه.
وذكره الجاحظ يوما فقال: لم يكتب الناس في النحو كتابا مثله، وجميع كتب الناس عليه عيال.
وقال الجاحظ: أردت الخروج إلى محمد بن عبد الملك الزيات وزير المعتصم، ففكرت في شيء أهديه له، فلم أجد شيئا أشرف من كتاب سيبويه، فلما وصلت إليه قلت، لم أجد شيئا أهديه لك مثل هذا الكتاب، وقد اشتريته من ميراث الفرّاء، فقال: والله ما أهديت لي شيئا أحبّ إليّ منه. ورأيت في بعض التواريخ أن الجاحظ لما وصل إلى ابن الزيات بكتاب سيبويه أعلمه به قبل إحضاره، فقال له ابن الزيات: أو ظننت أن خزانتنا خالية من هذا الكتاب، فقال الجاحظ: ما ظننت ذلك ولكنها بخط الفرّاء وقائله الكسائي وتهذيب عمرو ابن بحر الجاحظ
فقال ابن الزيات: هذه أجلّ نسخة توجد، وأعزّها فأحضرها إليه، ووقعت منه أجلّ موقع.
وأخذ سيبويه النحو عن الخليل بن أحمد وعيسى بن عمر ويونس بن حبيب وغيرهم، وأخذ اللغة عن أبي الخطاب المعروف بالأخفش الأكبر وغيره وقال ابن النطاح: كنت عند الخليل بن أحمد، فأقبل سيبويه، فقال الخليل: مرحبا بزائر لا يملّ.
وجرى للكسائي مع سيبويه البحث المشهور في قولك، كنت أظنّ لسعة العقرب أشدّ من لسعة الزنبور فإذا هو هي، فقال الكساني، فإذا هو إيّاها، وانتصر الخليفة للكسائي فحمل سيبويه من ذلك هّما فترك العراق ودخل إلى شيراز، وتوفي بقرية من قرى شيراز يقال لها البيضاء في سنة ثمانين ومئة.
وقال ابن قانع: توفي بالبصرة في سنة إحدى وستين ومئة، وقيل سنة ثمان وثمانين. وقال الحافظ أبو الفرج ابن الجوزي توفي سنة أربع وتسعين ومئة، وعمره اثنان وثلاثون، وإنه توفي بمدينة ساوة.