سمع إسحاق بن سليمان الرازي، ومكي بن إبراهيم البلخي، وعلي بن محمد الطنافسي.
رَوَى عنه: الغرباء من أهل الري وهمذان وخراسان أحاديث مسندة قليلة، وكان قد انتقل عن الري فسكن نيسابور إلى أن مات بها، وقدم بغداد واجتمع إليه بها مشايخ الصوفية.
فأخبرني الحسن بن محمد الخلال، قال: حدثنا يحيى بن علي القصري، قال: حدثنا جعفر بن محمد بن نصير الخلدي قال: بلغني أن يحيى بن معاذ قدم إلى بغداد فاجتمع إليه النساك ونصبوا له منصة وأقعدوه عليها، وقعدوا بين يديه يتحاورون فتكلم الجنيد فقال له يحيى: اسكت يا خروف، ما لك وللكلام إذا تكلم الناس؟ قال: وكان ليحيى بن معاذ أخ يقال له إسماعيل بن معاذ، وكان صاحب أدب وشعر ومجالسة للملوك، وكانت له امرأة يقال لها: فاطمة.
أخبرنا أبو نعيم الحافظ، قال: حدثنا محمد بن محمد بن عبيد الله المقرئ، قال: حدثنا الحسن بن علويه قال: سمعت يحيى بن معاذ يقول: من لم يكن ظاهره مع العوام فضة، ومع المريدين ذهبا، ومع العارفين المقربين درا وياقوتا، فليس من حكماء الله المريدين.
قال: وسمعت يحيى يقول: أحسن شيء كلام صحيح، من لسان فصيح، في وجه صبيح، كلام رقيق، يستخرج من بحر عميق، على لسان رجل رفيق.