وذكر حمزة في كتاب «التصحيف» أنه قرأ يوما على الأصمعي: «أغنيت شاني فأغنوا اليوم شانكم» فقال شاتي بالتاء. فقال الأصمعي مسرعا: فيما غزا اليوم بمسلم إذا، وأشار بيده إلى أبي حازم فضحك به الحاضرون.
وذكره أبو الطيب في «مراتب النحويين» أن أبا حاتم قال كنت من خوارج سجستان فكان أبو عبيدة يقربني، لذلك قال: وكان أبو حاتم في زمانه الفقه والإتقان والنهوض باللغة والقرآن مع علم واسع بالإعراب أيضا، وكتبه في نهاية الاستقصاء والحسن والتبيان، ولما توفي رثاه الرياشي بأبيات منها:
ماتت بشاشة أهل العلم والأدب ... مذيل سهل وآسى غير مقترب
من للعريب وللقرآن نسأله ... إذا تغوى معناه ولم نصب
وزعموا أنه كان يصم (العول).
وفي «التهذيب»: كان أحد المتقنين جالسه شمر وابن حمدويه وابن قتيبة ووثقاه.
وقال الدارقطني في «الطبقات»: أخذ القراءة عرضا عن ابن يعقوب، وهو أكبر أصحابه وله اختيار في القراءة، وقال المازني: لو أدركه سلام معلم الحضرمي لاحتاج أن يأخذ علم القرآن منه.