كان يُشَبَّه في عصرنا بأبي عبيد القاسم بن سلام في عصره علمًا وأدبًا وزهذا وورعًا وتدريسًا وتأليفا، إلا أنه كان يقول شعرًا حسنًا وكان أبو عبيد مفحمًا. وقال أبو طاهر السلفي: وأما أبو سليمان الشارح لكتاب أبي داود، فإذا وقف منصف على مصنفاته، واطلع على بديع تصرفاته في مؤلفاته، تحقق إمامته وديانته فيما يورده وأمانته، وكان قد رحل في الحديث وقراءة العلوم، وطوَّف، ثم ألف في فنون من العلم، وصنف، وفي شيوخه كثرة، وكذلك في تصانيفه، منها "شرح السنن" الذي عوَّلنا على الشروع في إملائه وإلقائه، وكتابه في "غريب الحديث"؛ ذكر فيه ما لم يذكره أبو عبيد، ولا ابن قتيبة في كتابيهما، وهو كتاب ممتع مفيد، ومحصله بنية موفق سعيد. وقال أبو المظفر السمعاني في "قواطع الأدلة": كان من العلم بمكان عظيم، وهو إمام من أئمة السنة، صالح للاقتداء به، والإصدار عنه. ونقل عنه ياقوت أنه قال: كان حجة صدوقًا، رحل إلي العراق والحجاز، وجال في خراسان، وخرج إلي ما وراء النهر. وقال شيرويه: روى عن ابن عدي الحافظ وغيره، روى عنه: أبو سهل غانم، وما رأيت أحدًا من أهل بلدنا روى عنه. وقال أبو سعد السمعاني في "الأنساب": إمام فاضل، كبير الشأن، جليل القدر، صاحب التصانيف الحسنة، مثل "أعلام الحديث في شرح صحيح البخاري"، و"معالم السنن في شرح الأحاديث التي في السنن" وكتاب "غريب الحديث" و"العزلة" وغيرها. وقال ياقوت الحموي: كان محدثًا فقيهًا، أديبًا شاعرًا لغويًا، أخذ اللغة والأدب عن أبي عمرو الزاهد، وأبي علي الصَّفَّار، وأبي جعفر الرَّزَّاز، وغيرهم من علماء العراق، وتفقه بالقفال الشاشي. وقال الذهبي: الإمام العلامة المفيد