قدم أبو العباس بغداد، فسمع من محمد بن عبيد الله المنادي، وعلي بن داود القنطري، والحسن بن مكرم، ويحيى بن أبي طالب، وأحمد بن أبي خيثمة، وعبد الله بن روح المدائني، وإسماعيل بن إسحاق القاضي، ونحوهم، وقدمها في آخر عمره، فحدث بها عن هؤلاء الشيوخ، وعن أحمد بن عبد الحميد الحارثي، وعبد الله بن أبي أسامة الكلبي، وإبراهيم بن أبي بكر بن أبي شيبة، وإسحاق بن إبراهيم العقيلي، وأحمد بن يحيى الصوفي، والحسن بن علي بن عفان العامري، ومحمد بن الحسين الحنيني، ويعقوب بن يوسف بن زياد، ومحمد بن إسماعيل الراشدي، ومحمد بن أحمد بن الحسن القطواني، والحسن بن عتبة الكندي، وعبد الله بن أحمد بن المستورد، والحسن بن جعفر بن مدرار، وعبد العزيز بن محمد بن زبالة المديني، وعبد الله بن أبي مسرة المكي، وغيرهم.
وكان حافظا عالما مكثرا جمع التراجم والأبواب والمشيخة، وأكثر الرواية، وانتشر حديثه، وروى عنه الحافظ والأكابر مثل أبي بكر ابن الجعابي، وعبد الله بن عدي الجرجاني، وأبي القاسم الطبراني، ومحمد بن المظفر، وأبي الحسن الدارقطني، وأبي حفص بن شاهين، وعبد الله بن موسى الهاشمي، وعمر بن إبراهيم الكتاني، وأبي عبيد الله المرزباني، ومن في طبقتهم وبعدهم، وحدثنا عنه أبو عمر بن مهدي، وأبو الحسين بن المتيم، وأبو الحسن بن الصلت.
أخبرنا أبو الحسن أحمد بن محمد بن أحمد بن موسى بن هارون بن الصلت الأهوازي، قال: حدثنا أبو العباس أحمد بن محمد بن سعيد، قال: حدثنا أحمد بن محمد بن يحيى الطلحي، قال: حدثنا محمد بن الحسن، قال: حدثنا شريك، عن أبي الوليد، عن الشعبي، عن علي، قال: قال رسول الله ﷺ، وأنا عنده وأقبل أبو بكر، وعمر: يا علي هذان سيدا كهول أهل الجنة