وقال الصدفي: سألت أبا جعفر محمد بن عمرو العقيلي عن أبي زرعة عبيد الله بن عبد الكريم فقال: هو الرازي من ثقات المسلمين وأبو زرعة الثاني أيضًا، فقال له عبد الحرمن بن عمرو: وهو ثقة أيضًا غير أن الرازي أجل منه وأعلم أو قال: أعلى.
وقال أبو عبد الله الحاكم: سمعت أبا جعفر محمد بن أحمد بن سعيد الرازي يقول: سمعت أبا عبد الله محمد بن مسلم بن وارة يقول: كنت عند إسحاق بن إبراهيم بنيسابور فقال رجل من أهل العراق: سمعت أحمد بن حنبل يقول: صح من الحديث سبعمائة ألف حديث وكسر، وهذا الفتى يعني أبا زرعة قد حفظ ستمائة ألف حديث.
قال محمد: أبو زرعة الرازي إمام من أئمة المسلمين في الحديث وعلله ورجاله، وكان من أحفظ الناس لحديث مالك بن أنس.
قال ابن أبي حاتم الرازي: سئل أبي عن أبي زرعة فقال: إمام.
وقال أبو الفضل صالح بن أحمد بن محمد الحافظ: لما وافى محمد بن إسماعيل البخاري صاحب الجامع المعروف بالصحيح إلى الري قصد أبا زرعة عبيد الله ابن عبد الكريم بن فروخ وأبا حاتم محمد بن إدريس وكانا إمامي المسلمين في وقتهما وزمانهما والمرجوع إليهما في الحديث وعلم ما اختلف فيه الرواة، فاحتجبا عنه فعاود ولم يأذنا له بالدخول عليهما، فعاود أبا زرعة فأبى وشدد في ذلك وقال: لا أحب أن أراه ولا يراني، فبلغ بعض العلماء أن أبا زرعة منع محمد بن إسماعيل أن يدخل عليه، وتحدث الناس بذلك فقصد أبا زرعة وسأله عن ذلك وذكر الحديث.
وقال ابن أبي حاتم الرازي: سمعت يونس بن عبد الأعلى يقول: ما رأيت أكثر تواضعًا من أبي زرعة هو وأبو حاتم إمامًا خراسان.
وقال أبو أحمد بن عدي: سمعت القاسم بن صفوان البرذعي يقول: سمعت عثمان بن خرزاء الأنطاكي يقول: أحفظ من رأيته أربعة: محمد بن المنهال الضرير، وإبراهيم ابن محمد بن عرعرة، وأبو زرعة، وأبو حاتم.