نعيم وعبد الله بن أبي سفيان الموصلي، وأبي بكر بن أبي داود، والعباس بن الفضل بن شاذان الرازي، وشعيب بن محمد الزارع، والحافظ أبي بكر أحمد بن علي الرازي، وأبي القاسم البغوي، وإبراهيم بن محمد بن يزيد المروزي، وعبد الرحمن بن أبي حاتم، ومحمد بن مخلّد الدوري، ومحمد بن هارون بن حميد، وأحمد بن محمد بن بشار -بغدادي يعرف بابن أبي العجوز، ومحمد بن محمد بن عقبة الشيباني، والحافظ أحمد بن يحيى بن زهير التستري، وغيرهم، وتفرَّد بالرواية عن طائفة منهم.
حدث عنه: أبو عبد الله الحاكم، وأبو سعيد النقاش، وأبو حازم العبدوي، وأبو العلاء صاعد بن محمد الهروي، وأبو نعيم الأصبهاني، وأبو الفتح بن أبي الفوارس، وأبو حفص بن مسرور، وأبو الحسين عبد الغافر الفارسي، وأبو سعد محمد بن عبد الرحمن الكنجروذي، ومحمد بن محمد بن حمدون السلمي، وأبو عثمان سعيد بن محمد البحيري، ومحمد بن عبد العزيز النيلي الشافعي، وآخرون.
قال الحاكم: ولد له بنت وعمره تسعون سنة، وتوفِّي وزوجته حبلى، فبلغني أنها قالت له عند وفاته: قد قربت ولادتي، فقال: سلمته إلى الله، فقد جاءوا ببراءتي من السماء، وتشهَّد ومات في الوقت.
قال الحاكم: سمعت أبا عمرو يعدُّ ما عنده من المسانيد المسموعة فقال: مسند ابن المبارك، ومسند الحسن بن سفيان، ومسند أبي بكر بن أبي شيبة، ومسند أبي يعلى الموصلي، ومسند عبد الله بن شيرويه، ومسند السراج، ومسند هارون بن عبد الله الحمال.
قال الحاكم: كان المسجد فراشه نيفًا وثلاثين سنة، ثم لما عَمِيَ وضعف نقل إلى بعض أقاربه بالحيرة، وكان من القرّاء والنحويين، وسماعاته صحيحة، رحل به أبوه، وصحب الزهاد، وأدرك أبا عثمان والمشايخ، وسمع من محمد بن زنجويه في سنة خمس وتسعين ومائتين، توفي في الثامن والعشرين من شهر ذي القعدة سنة ست وسبعين وثلاث مائة، وهو ابن ثلاث وتسعين، أو أربع وتسعين سنة، وصلَّى عليه الحافظ أبو أحمد الحاكم.