سمع الليث بن سعد وعبد الله بن لهيعة ومسلمة بن علي الخشني وحكى عن مالك بن أنس ولم يقع له عنه رواية حدث عنه مسلم وبن ماجة والحسن بن سفيان ومحمد بن الحسن بن قتيبة وعلي بن أحمد علان وأحمد بن عبد الوارث العسال ومحمد بن زبان وخلق سواهم.
وكان معروفاً بالإتقان الزائد والحفظ ولم يرحل.
قال النسائي ما أخطأ بن رمح في حديث واحد.
وقال أبو سعيد بن يونس ثقة ثبت كان أعلم الناس بأخبار بلدنا.
توفي في شوال سنة اثنتين وأربعين ومئتين.
وقال أبو عبد الرحمن النسائي لو كان كتب عن مالك لأثبته في الطبقة الأولى من أصحابه يعني لحفظه وإتقانه.
قلت لم يتفق لي أن أورد بن رمح في كتاب تذكرة الحفاظ فذكرته هنا لجلالته وأنا أتعجب من البخاري كيف لم يرو عنه! فهو أهل لذلك بل هو أتقن من قتيبة بن سعيد رحمهما الله.
أخبرنا أحمد بن هبة الله عن زينب الشعرية والمؤيد بن محمد قالا أخبرتنا أم الخير فاطمة بنت علي بن مظهر بن زعبل في سنة إحدى وثلاثين وخمس مئة أخبرنا عبد الغافر بن محمد الفارسي في أول عام إحدى وأربعين وأربع مئة أخبرنا محمد بن أحمد بن حمدان حدثنا الحسن بن سفيان الحافظ حدثنا محمد بن رمح حدثنا الليث بن سعد عن يحيى بن سعيد عن سهيل بن أبي صالح عن عطاء بن يزيد عن تميم الداري عن رسول الله ﷺ قال "إن الدين النصيحة". قالوا لمن يا رسول الله؟ قال "لله ولكتابه ولأئمة المسلمين أو المؤمنين وعامتهم"(٤٢٣).
هذا حديث صحيح في صحيح مسلم.
فتأمل هذه الكلمة الجامعة وهي قوله "الدين النصيحة" فمن لم ينصح لله وللأئمة وللعامة كان ناقص الدين وأنت لو دعيت يا ناقص الدين لغضبت فقل لي متى نصحت لهؤلاء؟ كلا والله بل ليتك تسكت ولا تنطق أولا تحسن لإمامك الباطل