روى عنه البخاري وأبو داود، والذهلي وإبراهيم بن الحارث البغدادي والحسن بن علي الخلال وأبو مزاحم سباع بن النضر وأبو بكر عبد القدوس الحبحباني وأبو بكر بن أبي عتاب الأعين ومحمد ابن عمرو بن نبهان الثقفي وإبراهيم الجوزجاني وحميد بن زنجويه وأبو داود الحراني ومحمد بن عبد الله ابن عبد العظيم ومحمد بن جعفر بن الإمام وهلال بن العلاء الرقي وعباس بن عبد العظيم العنبري، وروى عنه سفيان بن عيينة ومعاذ بن معاذ وهما من شيوخه وأحمد بن حنبل وعثمان بن أبي شيبة وهما من أقرانه وابنه عبد الله بن علي وأحمد بن منصور وإسماعيل بن إسحاق القاضي وحنبل بن إسحاق وصالح جزرة وأبو قلابة وأبو حاتم والصاغاني والفضل بن سهل الأعرج ومحمد بن عبد الرحيم صاعقة ويعقوب بن شيبة وأبو شعيب الحراني وأبو الحسين بن البراء وصالح بن أحمد بن حنبل ومحمد بن علي بن الفضل المديني فستقة وأبو خليفة الجمحي ومحمد بن يونس الكديمي ومحمد بن عثمان بن أبي شيبة وأبو يعلى الموصلي والبغوي وعبد الله بن محمد بن الحسن الكاتب وآخر الذين رووا عنه موتا عبد الله بن محمد بن أيوب الكاتب وأقدمهم شيخه سفيان بن عيينة وبين وفاتيهما مائة وثمان وعشرون سنة ذكره الخطيب وهذا من أمثلة السابق واللاحق.
من خرج حديثه:
خرج حديثه البخاري في صحيحه وروى عنه فيه ثلاثمائة وثلاثة أحاديث نقل ذلك الحافظ بن حجر في تهذيب التهذيب وخرج حديثه أبو داود في سننه وقد روى عنه البخاري وأبو داود بدون واسطة، وروى عنه أبو داود أيضا بواسطة وخرج حديثه الترمذي والنسائي في سننهما وابن ماجة في التفسير رووا عنه بواسطة.
ثناء الأئمة عليه:
وكان علي بن المديني موضع تقدير كبار المحدثين أثنوا عليه في حفظه وفي علمه وتبحره وبصره في علل الحديث وأثنوا عليه بوجه عام.