قال الخطيب: كان أبو حاتم أحد الأئمة الحفاظ الأثبات. . أول سماعه سنة تسع ومائتين.
قال أبو الشيخ الحافظ: حكى لنا عبد الله بن محمد بن يعقوب: سمعت أبا حاتم يقول: نحن من أهل أصبهان، من قرية جروكان وأهلنا كانوا يقدمون علينا في حياة أبي، ثم انقطعوا عنا.
قال الخليلي: كان أبو حاتم عالما باختلاف الصحابة، وفقه التابعين، ومن بعدهم، سمعت جدي وجماعة، سمعوا علي بن إبراهيم القطان يقول: ما رأيت مثل أبي حاتم! فقلنا له: قد رأيت إبراهيم الحربي، وإسماعيل القاضي؟ قال: ما رأيت أجمع من أبي حاتم، ولا أفضل منه.
علي بن إبراهيم الرازي: حدثنا أحمد بن علي الرقام سمعت الحسن بن الحسين الدارستيني قال: سمعت أبا حاتم يقول: قال لي أبو زرعة: ما رأيت أحرص على طلب الحديث منك. فقلت له: إن عبد الرحمن ابني لحريص، فقال: من أشبه أباه فما ظلم. قال الرقام: فسألت عبد الرحمن عن اتفاق كثرة السماع له، وسؤالاته لأبيه، فقال: ربما. كان يأكل وأقرأ عليه، ويمشي وأقرأ عليه، ويدخل الخلاء وأقرأ عليه، ويدخل البيت في طلب شيء وأقرأ عليه. قال أحمد بن سلمة النيسابوري: ما رأيت بعد إسحاق، ومحمد بن يحيى أحفظ للحديث من أبي حاتم الرازي، ولا أعلم بمعانيه.
قال ابن عدي: سمعت القاسم بن صفوان، سمعت أبا حاتم يقول: أورع من رأيت أربعة: آدم وأحمد بن حنبل، وثابت بن محمد الزاهد، وأبو زرعة الرازي. قال القاسم: فذكرته لعثمان بن خرزاذ. فقال: أنا أقول أحفظ من رأيت أربعة: محمد بن المنهال الضرير، وإبراهيم بن عرعرة، وأبو زرعة، وأبو حاتم.
قال ابن أبي حاتم: سمعت يونس بن عبد الأعلى يقول: أبو زرعة وأبو حاتم إماما خراسان، ودعا لهما، وقال: بقاؤهما صلاح للمسلمين.