وقال محمد بن سعيد بن منصور: كان أبي يحدث عن محمد بن يحيى فيقول: حدثني محمد بن يحيى المعروف بالزهري، سمعت أبا علي الحافظ وسأله أبو عمر الأصبهاني عن محمد بن يحيى وعباس بن عبد العظيم العنبري أيهما أحفظ؟ فقال أبو علي: عباس حافظ إلا أن محمدًا أجل، حدثوني عن فضلك الرازي أنه قال: حدثني من لم يخطئ في حديث قط محمد بن يحيى.
وقال علي بن عبد الله المديني: كفانا محمد بن يحيى جمع حديث الزهري.
وعن مكي بن عبدان قال: دخلت مع مسلم بن الحجاج على محمد بن يحيى ومعه شيء ينظر فيه [ق ٤١/ب] فوضعه وأجلس مسلمًا، فقال مسلم: بلغني أن أبا زكريا اشتكى وأردت عيادته فبدأت بزيارتك، وعن ابن وارة قال: سمعت إبراهيم بن موسى الفراء يقول: من أراد الزهري لم يستغن عن محمد بن يحيى وعن مكي قال: مات محمد ومسلم غائب؛ فلما قدم استقبله أبو زكريا فعزاه بشيخه؛ فقال أبو زكريا: يا سبحان الله! وعن مثل هذا يعزى على ظهر الطريق.
وقال محمد بن طاهر الأمير: ورد علي نعي الذهلي في جوف الليل فما نمت تلك الليلة بعد، وقال لأبي زكريا بعد ما صلى عليه: إن كنت أصبت به فما خصصت به دوننا، نحن المخصوصون بوفاته. ثم أخذ يدعو الله له، وقال أحمد بن سيار – وذكر مشايخ نيسابور فقال -: ومحمد بن يحيى الذهلي رأيته وهو لا يخضب وكان ثقة، وقد كتب الكثير وجالس الناس ودون الكتب وجمع حديث الزهري، وقد رأيت ابنه يحيى وهو حسن النحو محدث. وقال أبو حامد: ما رأيت في المحدثين مثل الذهلي وعثمان بن سعيد ويعقوب بن سفيان.
روى عن: روح بن عبادة، وعبد الله بن بكر السهمي، وحماد بن مسعدة، وإبراهيم بن حبيب بن الشهيد، وشبابة بن سوار، ويحيى بن أبي الحجاج المقرئ، وهارون بن إسماعيل الخزاز، ومحمد بن كناسة، وعبد الملك الأصمعي، ومحمد بن الهثيم بن خالد بن الربيع.