سمع الأعمش، وزكريا بن أبي زائدة، وإسماعيل بن مسلم العبدي، وجعفر بن برقان، وأبا خلدة خالد بن دينار، وسيف بن سليمان المكي، وعمر بن ذر، وفطر بن خليفة، ومالك بن مغول، ومسعر بن كدام، وموسى بن علي بن رباح، ويونس بن أبي إسحاق، وشعبة، والثوري، وخلقا كثيرا. وعنه البخاري، والستة، عن رجلٍ عنه، وأحمد بن حنبل، وإسحاق بن راهويه، ويحيى بن معين، وأبو خيثمة، ومحمد بن يحيى الذهلي، والدارمي، وعبد، وعباس الدوري، وأبو زرعة، وأبو حاتم، وأبو زرعة الدمشقي، ومحمد بن سنجر الجرجاني، ومحمد بن جعفر القتات، ومحمد بن الحسن بن سماعة، وعلي بن عبد العزيز البغوي، وخلق كثير.
وقد روى عنه: عبد الله بن المبارك مع تقدمه.
قال أبو حاتم: قال أبو نعيم: شاركت الثوري في أربعين أو خمسين شيخا.
وأما حنبل بن إسحاق فقال: قال أبو نعيم: كتبت عن نيفٍ ومائة شيخ ممن كتب عنهم سفيان.
وقال محمد بن عبدة بن سليمان: كنت مع أبي نعيم، فقال له أصحاب الحديث: يا أبا نعيم، إنما حملت عن الأعمش هذه الأحاديث، فقال: ومن كنت أنا عند الأعمش؟ كنت قردا بلا ذنب.
وقال صالح بن أحمد بن حنبل: قلت لأبي: وكيع، وعبد الرحمن بن مهدي، ويزيد بن هارون، أين يقع أبو نعيم من هؤلاء؟
قال: يجيء حديثه على النصف من هؤلاء إلا أنه كيس يتحرى الصدق، قلت: فأبو نعيم أثبت أو وكيع؟ قال: أبو نعيم أقل خطأً.
وقال حنبل: سئل أبو عبد الله فقال: أبو نعيم أعلم بالشيوخ وأنسابهم، وبالرجال، ووكيع أفقه.
وقال يعقوب بن شيبة: سمعت أحمد بن حنبل يقول: هو أثبت من وكيع.