وقال ابن زنجلة: كنا عند ابن عيينة، وعنده رؤساء أصحاب الحديث فقال: الرجل الذي روينا عنه أربعة أحاديث الذي يحدث عن الصحابة؟ فقال علي ابن المديني: زياد بن علاقة. فقال ابن عيينة: زياد بن علاقة.
وقال حفص بن محبوب المحبوبي: كنا عند ابن عيينة فقام ابن المديني فقام سفيان، وقال: إذا قامت الخيل لم نجلس مع الرجالة.
وقال عبد الرحمن بن مهدي: علي ابن المديني أعلم الناس بحديث رسول الله ﵌، وخاصة بحديث ابن عيينة.
وقال عباس العنبري: كان يحيى بن سعيد يقول: إني كلما قلت: لا أحدث إلى كذا استثنيت عليا، ونحن نستفيد من علي أكثر مما يستفيد منا.
وقال ابن الجنيد، عن ابن معين: علي ابن المديني من أروى الناس، عن يحيى بن سعيد إني أرى عنده أكثر من عشرة آلاف. قيل ليحيى: أكثر من مسدد؟ قال: نعم، إن يحيى بن سعيد كان يكرمه ويدنيه، وكان صديقه، وكان علي يلزمه.
وقال أبو قدامة السرخسي: سمعت علي ابن المديني يقول: رأيت فيما يرى النائم كأن الثريا تدلت حتى تناولتها. قال أبو قدامة: فصدق الله رؤياه بلغ في الحديث مبلغا لم يبلغه أحد.
وقال أبو عبد الرحمن النسائي: كأن الله ﷿ خلق علي ابن المديني لهذا الشأن.
وقال أحمد بن سعيد الرباطي: قال علي ابن المديني ما نظرت في كتاب شيخ فاحتجت إلى السؤال به عن غيري.
وقال العباس العنبري: لقد بلغ علي ابن المديني ما لو قضي له أن يتم عليه لعله كان يقدم على الحسن البصري، كان الناس يكتبون قيامه وقعوده ولباسه وكل شيء يقول ويفعل.
وقال يعقوب بن سفيان: حدثني بكر بن خلف قال: قدمت مكة، وبها شاب حافظ، وكان يذاكرني المسند بطرقه فقلت له: من أين لك هذا؟ قال: طلبت إلى علي ابن المديني أيام ابن عيينة أن يحدثني بالمسند فقال: قد عرفت إنما تريد بما تطلب مني المذاكرة، فإن ضمنت لي أنك تذاكر ولا تسميني فعلت، قال: فضمنت له، واختلفت إليه، فجعل يحدثني هذا الذي أذاكرك به حفظا.
وعن علي ابن المديني قال: صنفت المسند على الطرق مستقصى، وجعلته في قراطيس في قمطر كبير، ثم غبت عن البصرة ثلاث سنين، فرجعت وقد خالطته الأرضة، فصار طينا فلم أنشط بعد لجمعه.
وقال أبو العباس السراج: سمعت أبا يحيى - يعني: صاعقة - يقول: كان علي ابن المديني إذا قدم بغداد تصدر الحلقة، وجاء يحيى بن معين، وأحمد بن حنبل، والمعيطي، والناس يتناظرون، فإذا اختلفوا في شيء تكلم فيه علي.
وقال الأعين: رأيت علي ابن المديني مستلقيا، وأحمد عن يمينه، وابن معين عن يساره، وهو يملي عليهما.
وقال ابن المديني: تركت من حديثي مائة ألف فيها ثلاثون ألفا لعباد بن صهيب.
وقال أبو العباس السراج: سمعت البخاري، وقيل له: ما تشتهي؟ قال: أشتهي أن أقدم العراق، وعلي بن عبد الله حي فأجالسه.
وقال ابن عدي: سمعت الحسن بن الحسين البخاري يقول: سمعت إبراهيم بن معقل يقول: سمعت محمد بن إسماعيل البخاري يقول: ما استصغرت نفسي عند أحد إلا عند علي ابن المديني.
وقال الآجري، عن أبي داود: علي أعلم باختلاف الحديث من أحمد.
وقال الإسماعيلى: سئل الفرهياني عن يحيى، وعلي، وأحمد، وأبي خيثمة فقال: أما علي فأعلمهم بالحديث والعلل، ويحيى أعلمهم بالرجال، وأحمد أعلمهم بالفقه، وأبو خيثمة من النبلاء.
ويروى عن ابن معين أنه سئل عن علي ابن المديني والحميدي أيهما أعلم؟ فقال: ينبغي للحميدي أن يكتب عن آخر عن علي ابن المديني.