كان رحمه الله قد كساه الله نورا وبهاء، يسرّ من ينظر إليه. سمعته يقول: رحل بي أبي سنة خمس وخمسين ومائتين، وما احتلمت بعد، فلما بلغنا ذا الحليفة احتلمت، فسرّ أبي، حيث أدركت حجة الإسلام، فسمعت في هذه السنة من محمد بن أبي عبد الرحمن المقرئ.
قال الذهبي: وسمع من أبي سعيد الأشج، والحسن بن عرفة، والزعفراني، ويونس بن عبد الأعلى ... وخلائق من طبقتهم وممّن بعدهم بالحجاز، والعراق، والعجم، ومصر، والشام، والجزيرة، والجبال.
وروى عنه: ابن عدي، وحسين بن علي التميمي، والقاضي يوسف الميانجي، وأبو الشيخ بن حيّان، وأبو أحمد الحاكم، وعلي بن عبد العزيز بن مردك ... وخلق سواهم.
وقال أبو يعلى الخليلي: أخذ أبو محمد علم أبيه، وأبي زرعة، وكان بحرا في العلوم ومعرفة الرّجال. وقال أيضا: يقال: إن السّنّة بالرّي ختمت بابن أبي حاتم.
قال الذهبي: ومن كلامه قال: وجدت ألفاظ التعديل والجرح مراتب، فإذا قيل: ثقة، أو متقن، احتجّ به، وإن قيل: صدوق، أو محلّه الصدق، أو لا بأس به، فهو ممّن يكتب حديثه، وينظر فيه، وهي المنزلة الثانية، وإذا قيل: شيخ، فيكتب حديثه، وهو دون ما قبله، وإذا قيل: صالح الحديث، فيكتب حديثه وهو دون ذلك يكتب حديثه للاعتبار، وإذا قيل: ليّن، فدون ذلك، وإذا قالوا:
ضعيف الحديث، فلا يطرح حديثه، بل يعتبر به، فإذا قالوا: متروك الحديث، أو ذاهب الحديث، أو كذّاب، فلا يكتب حديثه.
مات سنة سبع وعشرين وثلاث مائة بالرّي، وله بضع وثمانون سنة.
قلت: وقد قامت شهرته على كتابه «الجرح والتعديل» وهو مطبوع في حيدر أباد بالهند في تسع مجلدات بعناية العلّامة المحقّق الشيخ عبد الرحمن المعلمي اليماني طيّب الله ثراه