يعقوب الفسوي في " تاريخه " حدثني بكر بن خلف قال: قدمت مكة وبها شاب حافظ، كان يذاكرني المسند بطرقها. فقلت له: من أين لك هذا؟ قال: أخبرك، طلبت إلى علي أيام سفيان أن يحدثني بالمسند، فقال: قد عرفت، إنما تريد بذلك المذاكرة. فإن ضمنت لي أنك تذاكر ولا تسميني، فعلت، قال: فضمنت له، واختلفت إليه، فجعل يحدثني بذا الذي أذاكرك به حفظا.
قال الفسوي: فذكرت هذا لبعض من كان يلزم عليا، فقال: سمعت عليا يقول: غبت عن البصرة في مخرجي إلى اليمن - أظنه ذكر ثلاث سنين - وأمي حية. فلما قدمت، قالت: يا بني: فلان لك صديق، وفلان لك عدو. قلت: من أين علمت يا أمه؟ قالت: كان فلان وفلان، فذكرت منهم يحيى بن سعيد يجيئون مسلمين، فيعزوني، ويقولون: اصبري، فلو قدم عليك، سرك الله بما ترين.
فعلمت أن هؤلاء أصدقاء. وفلان وفلان إذا جاءوا، يقولون لي: اكتبي إليه، وضيقي عليه ليقدم.
فأخبرني العباس بن عبد العظيم أو غيره، قال: قال علي: كنت صنفت " المسند " على الطرق مستقصى، كتبته في قراطيس وصيرته في قمطر كبير، وخلفته في المنزل، وغبت هذه الغيبة. قال: فجئت فحركت القمطر، فإذا هو ثقيل بخلاف ما كانت، ففتحتها، فإذا الأرضة قد خالطت الكتب، فصارت طينا.
قال أحمد بن يوسف البجيري: سمعت الأعين يقول: رأيت علي ابن المديني مستلقيا، وأحمد عن يمينه، وابن معين عن يساره، وهو يملي عليهما.
قال أبو أمية الطرسوسي: سمعت عليا يقول: ربما أذكر الحديث في الليل، فآمر الجارية تسرج السراج فأنظر فيه.
البخاري: سمعت أحمد بن سعيد الرباطي قال: قال علي: ما نظرت في كتاب شيخ فاحتجت إلى السؤال به عن غيري.
وعن العباس بن سورة قال: سئل يحيى بن معين، عن علي ابن المديني والحميدي، فقال: ينبغي للحميدي أن يكتب عن آخر عن علي ابن المديني.