علماؤهم يعرفون الصحيح من السقيم، فروايتهم ذلك للمعرفة، ليتبين لمن بعدهم أنهم ميزوا الآثار، وحفظوها. ثم قال: رحم الله أبا زرعة، كان والله مجتهداً في حفظ آثار رسول الله صَلَّى اللهُ عَلَيْهِ وَسَلَّمَ. وإذا رأيت الرازي وغيره يبغض أبا زرعة فاعلم أنه مبتدع.
وقال: أزهد من رأيت أربعة: آدم بن أبي إياس، وثابت بن محمد الزاهد، وأبو زرعة. وذكر آخر.
قال أحمد بن سعيد الدارمي: صلى أبو زرعة الرازي في مسجده عشرين سنة بعد قدومه من السفر، فلما كان يوماً من الأيام قدم عليه قوم من أصحاب الحديث، فنظروا، فإذا في محرابة كتابة، فقالوا له: كيف تقول في الكتابة في المحاريب؟ فقال: فذكره ذلك أقوام ممن مضوا، فقالوا له: هو ذا محرابك كتابة، أو ما علمت به؟! قال: سبحان الله: رجل يدخل على الله - عز وجل - ويدري ما بين يديه؟ فقالوا: هذا ببركة بشر بن الحارث، وأحمد بن حنبل، فقال: لا، هذا ببركة صوفي رأيته، وصحبته أياماً.
وقال: بشر وأحمد سيدان من سادات المؤمنين إلا أن معارفهم دون معرفة هذا الصوفي.
قال أبو زرعة:
إذا رأيت الرجل ينتقص أحداً من أصحاب رسول الله صَلَّى اللهُ عَلَيْهِ وَسَلَّمَ فاعلم أنه زنديق؛ وذلك أن الرسول صَلَّى اللهُ عَلَيْهِ وَسَلَّمَ عندنا حق، والقرآن حق، وإنما أدى إلينا القرآن والسنن أصحاب رسول الله صَلَّى اللهُ عَلَيْهِ وَسَلَّمَ، وإنما يريدون أن يجرحوا شهودنا ليبطلوا الكتاب والسنة، والجرح أولى بهم، وهم زنادقة.
قال ابن خراش: كان بيني وبين أبي زرعة موعد أن أبكر عليه، فأذاكره، فبكرت، فمررت بأبي حاتم وهو قاعد وحده، فدعاني، فأجلسني معه، فذاكرني حتى أضحى النهار، فقلت له: بيني وبين أبي زرعة موعد، فجئت إلى أبي زرعة، والناس عليه منكبين، فقال لي: