أخبرنا محمد بن قيماز، وغيره، قالوا: أخبرنا عبد الله بن اللتي، أخبرنا أبو الوقت، أخبرنا عبد الله بن محمد الأنصاري، أخبرنا عبد الجبار الجراحي، أخبرنا ابن محبوب، حدثنا أبو عيسى الترمذي، سمعت محمد بن عمرو بن نبهان بن صفوان الثقفي، سمعت علي بن المديني يقول: لو حلفت بين الركن والمقام، لحلفت أني لم أر أحدا أعلم من عبد الرحمن بن مهدي.
وبه إلى الترمذي: حدثنا أحمد بن الحسن، قال أحمد بن حنبل: ما رأيت بعيني مثل يحيى بن سعيد، وعبد الرحمن بن مهدي إمام.
وقال زياد بن أيوب الطوسي: قمنا من مجلس هشيم، فأخذ أحمد وابن معين وأصحابه بيد فتى، فأدخلوه مسجدا، وكتبنا عنه، فإذا الفتى عبد الرحمن بن مهدي.
محمد بن عيسى الطرسوسي: سمعت عبد الرحمن رسته يقول: كانت لعبد الرحمن بن مهدي جارية، فطلبها منه رجل، فكان منه شبه العدة، فلما عاد إليه، قيل لعبد الرحمن: هذا صاحب الخصومات. فقال له عبد الرحمن: بلغني أنك تخاصم في الدين. فقال: يا أبا سعيد، إنا نضع عليهم لنحاجهم بها فقال: أتدفع الباطل بالباطل، إنما تدفع كلاما بكلام، قم عني، والله لا بعتك جاريتي أبدا.
قال ابن المديني: قال عبد الرحمن: اترك من كان رأسا في بدعة يدعو إليها.
وقال ابن المديني: دخلت على امرأة عبد الرحمن بن مهدي، وكنت أزورها بعد موته، فرأيت سوادا في القبلة، فقلت: ما هذا؟ قالت: موضع استراحة عبد الرحمن، كان يصلي بالليل، فإذا غلبه النوم، وضع جبهته عليه.
ويروى عن ابن مهدي قال: من طلب العربية، فآخره مؤدب، ومن طلب الشعر، فآخره شاعر، يهجو أو يمدح بالباطل، ومن طلب الكلام، فآخر أمره الزندقة، ومن طلب الحديث، فإن قام به، كان إماما، وإن فرط، ثم أناب يوما، يرجع إليه، وقد عتقت وجادت.
قال يحيى بن يحيى: كنت أسأل عبد الرحمن عن المشايخ بالبصرة.