وروى عنه الجماعة، سوى ابن ماجه، وأبو زرعة، وأبو حاتم، وإبراهيم بن أبي طالب، ومحمد بن يحيى الذهلي، وابن خزيمة، وأبو العباس السراج، وأبو بكر بن أبي داود، ومحمد بن عقيل الخزاعي، وحاجب بن أحمد الطوسي، وغيرهم.
قال عبد الله بن عبد الوهاب الخوارزمي عن أحمد: محمَّد بن يحيى أحفظ، ومحمد بن رافع أورع، وقال البخاري: ثنا محمَّد بن رافع بن سابور، وكان من خيار عباد الله، وقال النسائي: أنا محمَّد بن رافع الثقة المأمون، وقال ابن أبي حاتم، عن أبي زرعة: شيخ صدوق، قدم علينا، وكان قد رحل مع أحمد. وقال زكرياء بن دلويه: بعث طاهر بن عبد الله ابن طاهر إلى محمَّد بن رافع بخمسة آلاف، فردها. قال زكرياء: وكان يخرج إلينا في الشتاء الشاتي، وقد لبس لحافه الذي يلبسه بالليل. وذكره ابن حبان في الثقات، وقال: مات سنة ٢٤٥ وكان ثبتا فاضلا، وفيها أرخه البخاري، وغيره. قال الحافظ: قال الحاكم: هو شيخ عصره بخراسان في الصدق، والرحلة، حدثنا ابن صالح، حدثنا ابن رجاء، قال: قلت لعثمان بن أبي شبية: تعرف محمَّد بن رافع؟ فقال: ذاك الزاهد، وقال جعفر بن أحمد بن نصر الحافظ: ما رأيت من المحدثين أهيب منه، كان يستند فيأخذ الكتاب، فيقرأ بنفسه، فلا ينطق أحد ولا يتبسم، سمعت محمَّد بن صالح يقول: سمعت أحمد بن سلمة يقول: سمعت مسلم بن الحجاج، يقول: محمَّد بن رافع ثقة مأمون، صحيح الكتاب، وقال ابن صالح: وثنا محمَّد بن شاذان، حدثنا محمَّد بن رافع الثقة المأمون. وقال أحمد بن سيار في ذكر مشايخ نيسابور: محمَّد بن رافع كان ثقة حسن الرواية عن أهل اليمن. وقال النسائي في مشيخته، ومسلمة في الصلة: ثقة ثبت، وفي الزهرة: روى