روى عن: محمد بن عبد الله الأنصاري، وعثمان بن الهيثم، وعفان بن مسلم، وأبي نعيم، وعبيد الله بن موسى، وعبد الله بن صالح كاتب الليث، وعبد الله بن صالح العجلي، وأبي توبة الربيع بن نافع، وآدم بن أبي إياس، وأبي اليمان، وسعيد بن أبي مريم، وأبي مسهر، والأصمعي، وأبي غسان النهدي، ومحمد بن يزيد بن سنان، وهوذة بن خالد، ويحيى بن صالح الوحاظي، وعمرو بن الربيع بن طارق، وعمر بن حفص بن غياث وطبقتهم، وخلق ممن بعدهم.
روى عنه: أبو داود والنسائي وابن ماجه في التفسير. وروى: البخاري في الصحيح في باب: المحصر عن محمد، عن يحيى بن صالح الوحاظي، فذكر الكلاباذي في ترجمة يحيى بن صالح: أن ابن أبي سعيد السرخسي أخبره، أن محمدًا هو: ابن إدريس أبو حاتم الرازي وذكره أنه رآه في أصل عتيق. وقال الحاكم أبو أحمد في الكنى: أبو حاتم محمد بن إدريس. روى عنه: محمد بن إسماعيل الجعفي، وابنه عبد الرحمن، وعبدة بن سليمان المروزي، والربيع بن سليمان المرادي، ويونس بن عبد الأعلى، ومحمد بن عوف الطائي وهم من شيوخه، ورفيقه أبو زرعة الرازي، ومحمد بن هارون الروياني، وأبو عوانة الأسفرائني، وابن أبي الدنيا، وأبو زرعة الدمشقي، وأحمد بن منصور الرمادي، وإبراهيم بن إسحاق الحربي، وحاجب بن أركين، والقاسم بن زكرياء المطرز، وموسى بن إسحاق الأنصاري، وموسى بن العباس الجويني، والحسين بن إسماعيل المحاملي، ومحمد بن مخلد الدوري، وأبو عمرو بن حكيم، وأبو الحسن علي بن إبراهيم القطان، والحسين بن يحيى بن عياش القطان وآخرون. قال أبو بكر الخلال: أبو حاتم إمام في الحديث. روى عن أحمد مسائل كثيرة وقعت إلينا متفرقة كلها غريب. وقال ابن خراش: كان من أهل الأمانة والمعرفة. وقال النسائي: ثقة وقال أبو نعيم: إمام في الحفظ. وقال اللالكائي: كان إمامًا عالمًا بالحديث حافظًا له متقنًا ثبتًا وقال ابن أبي حاتم (١): سمعت موسى بن إسحاق القاضي يقول: ما رأيت أحفظ من والدك، قلت له: فرأيت أبا زرعة قال: لا. قال: وسمعت يونس بن عبد الأعلى يقول: أبو زرعة وأبو حاتم إماما خراسان، ودعا لهما وقال: بقاؤهما صلاح للمسلمين، وقال الخطيب: كان أحد الأئمة الحفاظ الأثبات، مشهورًا بالعلم، مذكورًا بالفضل، وكان أول كتبه الحديث سنة (٢٠٩). قال ابن أبي حاتم: سمعت أبي يقول: أول سنة خرجت في طلب الحديث أقمت سنين أحسب ومشيت على قدمي زيادة على ألف فرسخ، فلما زاد على ألف فرسخ تركته قال: وسمعت أبي يقول: أقمت سنة أربع عشرة ومائتين بالبصرة ثمانية أشهر قد كنت عزمت على أن أقيم سنة، فانقطعت نفقتي فجعلت أبيع ثيابي شيئًا، بعد شيء، حتى بقيت بلا شيء. وقال أيضًا: سمعت أبي يقول: قلت: على باب أبي الوليد الطيالسي: من أغرب علي حديثًا غريبًا مسندًا صحيحًا لم أسمع به فله علي درهم يتصدق به، وهناك حلق من الخلق أبو زرعة فمن دونه وإنما كان مرادي أن أستخرج منهم ما ليس عندي فما تهيًا لأحد منهم أن يغرب علي حديثًا. وقال أحمد بن سلمة النيسابوري: ما رأيت بعد إسحاق ومحمد بن يحيى أحفظ للحديث ولا أعلم بمعانيه من أبي حاتم وقال عثمان بن خرزاذ: أحفظ من رأيت أربعة: إبراهيم بن عرعرة، ومحمد بن المنهال