قال أبو العباس الأزهري: سمعت خادمة محمد بن يحيى، وهو على السرير يغسل، تقول: خدمته ثلاثين سنة، وكنت أضع له الماء، فما رأيت ساقه قط، وأنا ملك له.
قال الحاكم: سمعت أبا علي محمد بن أحمد بن زيد المعدل يقول: سمعت يحيى بن الذهلي يقول: دخلت على أبي في الصيف الصائف وقت القائلة، وهو في بيت كتبه، وبين يديه السراج، وهو يصنف، فقلت: يا أبة، هذا وقت الصلاة، ودخان هذا السراج بالنهار، فلو نفست عن نفسك. قال: يا بني، تقول لي هذا، وأنا مع رسول الله ﷺ وأصحابه والتابعين!!
وسمعت يحيى بن منصور القاضي، سمعت خالي عبد الله بن علويه، سمعت محمد بن سهل بن عسكر يقول: كنا عند أحمد بن حنبل، إذ دخل عليه محمد بن يحيى، فقام إليه، وقرب مجلسه، وأمر بنيه وأصحابه أن يكتبوا عنه.
زنجويه بن محمد: سمعت أبا عمرو المستملي يقول: أتيت أحمد بن حنبل، فقال: من أين أنت? قلت: من نيسابور. قال: أبو عبد الله محمد بن يحيى له مجلس? قلت: نعم. قال: لو أنه عندنا، لجعلناه إمامًا في الحديث. ثم ذكرت محمد بن رافع. فقال: من محمد بن رافع? ثم سكت ساعة ثم قال: لعله الذي كان معنا عند عبد الرزاق؟ قلت: نعم.
قال محمد بن سعيد بن منصور، حدثنا أبي، قلت ليحيى بن معين: لم لا تجمع حديث الزهري? فقال: كفانا محمد بن يحيى ذلك. قال زنجويه بن محمد: كنت أسمع مشايخنا يقولون: الحديث الذي لا يعرفه محمد بن يحيى لا يعبأ به.
وقال أبو قريش الحافظ: كنت عند أبي زرعة، فجاء مسلم بن الحجاج، فسلم عليه، وجلس ساعة، وتذاكرا. فلما أن قام قلت له: هذا جمع أربعة آلاف حديث في "الصحيح" فقال: فلمن ترك الباقي? ثم قال: هذا ليس له عقل، لو دارى محمد بن يحيى لصار رجلًا.
الحاكم: حدثنا أبو علي الحافظ حدثنا محمد بن إسحاق حدثنا أبو عبد الرحيم الجوزجاني قال: قلت لأحمد بن حنبل: إني أريد البصرة، وقد عرفت أصحاب الحديث وما بينهم. فقال: إذا قدمت فسل عن محمد بن يحيى النيسابوري، فإذا رأيته فالزمه، ثم قال: ما قدم علينا أحد أعلم بحديث الزهري منه.
قال ابن أبي حاتم: كتب أبي عن محمد بن يحيى بالري، وهو ثقة صدوق إمام من أئمة المسلمين، وثقه أبي، وسمعته يقول: هو إمام أهل زمانه.