والبخاري، وأبو داود، وأبو حاتم الرازي، وقال: كان عالما في الناس في معرفة الحديث والعلل، وقال البخاري: ما استصغرت نفسي عند أحد إلا عند علي ابن المديني، وأورد الخطيب بإسناده، أن أحمد بن حنبل، ويحيى بن معين، كانا يكتبان عنه، وربما كان في بعض الأحيان يكون مستلقيا، وقد أثنى عليه غير واحد، في علمه وحفظه وكثرة سماعاته وعلوها.
وقال عبد الغني بن سعيد المصري: أحسن الناس كلاما على حديث رسول الله، صلى الله عليه وسلم، علي ابن المديني في وقته، وهارون بن سعيد في وقته، والدارقطني في وقته، وإنما أوردته هاهنا لأن الشيخ أبا إسحاق، رحمه الله، ذكره في الطبقات في أصحاب الشافعي، فقال: ومنهم: علي بن عبد الله بن جعفر المديني، كتب عن الشافعي كتاب الرسالة، وحملها إلى عبد الرحمن بن مهدي فأعجب بها.