السراج والزجاج والأخفش والمطرز غلام ثعلب وغيرهم، وبتوجيه ابن درستويه درس بعمق كتاب سيبويه بشرح المبرد، وقرأ كتب ابن قتيبة مع ابن المؤلف أبى جعفر كما قرأ كتب يحيى المنجم، ثم صرف همته لدراسة الحديث على أيدى كبار رجاله أمثال أبى بكر عبد اللَّه بن أبى داود السجستانى وعبد اللَّه بن محمد بن عبد العزيز اللغوى، وقرأ القرآن الكريم على إمام القراء ابن المجاهد، ثم غادر بغداد إلى الأندلس بدعوة -كما يقال- من صاحبها الحاكم عبد الرحمن الثالث فوصل إلى قرطبة يوم السابع والعشرين من شعبان سنة ٣٣٠ هـ (= ١٧ مايو ٩٤٢ م)، ومات بها كما يقول الزبيدى مكرمًا فى ربيع الثانى سنة ٣٥٦ هـ (مارس ابريل ٩٦٧ م).
وقال ابن الفرضى إنه مات يوم السبت سابع جمادى الأولى ٣٥٦ هـ (ابريل ٩٦٧ م)، وهذه المعلومة الدقيقة من جعفر بن القالى وقد نقلها عنه ابن الفرضى (انظر ابن بشكوال)، ولقد أصبح القالى الشخصية البارزة فى الغرب الإسلامى، فلما هاجر إلى قرطبة اصطحب معه قسمًا كبيرًا من مكتبته، ويقال إن الكتب التى ضاعت وهو فى القيروان أملاها من ذاكرته فى مقره الجديد أو كتب عليها تعليقات وشروحًا (راجع ابن خير ٣٩٥، والزبيدى ٢٠٣ والقفطى = ١/ ٢٠٥)، ولم يكترث كنحوى بالمنازعات التى كانت بين رجال مدرستى البصرة والكوفة، والتى ترجع إلى أيام المبرد وثعلب واكنه كان يعتمد فى حكمه على ما يراه هو نفسه، على الرغم من أنه كان أميل لمذهب البصريين (راجع القفطى ١/ ٢٠٥) وقد ضاع الجانب الأكبر من مؤلفاته ولم يبق منها إلا النادر القليل (انظر القفطى ١/ ٢٠٦، وياقوت: معجم الأدباء ٢/ ٣٥٢) ولعل أعظمها هو كتابه الأمالى الذى يورد فيه كل دقيقة من مشاكل فقه اللغة فيما يتعلق بالعربية، وأحسن طبعة لهذا الكتاب هى التى أصدرتها دار الكتب المصرية سنة ١٣٤٤ كما يحتوى الجزء الثالث منه