وكان أحد الأئمة في الدين، وعلما من أعلام المسلمين. قال عبد الله بن جعفر بن درستويه الفارسيّ النحويّ: أبو عبيد من علماء بغداد المحدّثين النحويين على مذهب الكوفيين، ورواة اللغة والغريب عن البصريين والكوفيين. والعلماء بالقراءات، وممن جمع صنوفا من العلم، وصنف الكتب، في كل فن من العلوم والآداب فأكثر وشهر، وكان مؤدّبا لآل هرثمة، وصار في ناحية عبد الله بن طاهر.
وكان ذا فضل ودين، ومذهب وحسن.
روى عن أبي زيد الأنصاري، وأبي عبيدة، والأصمعي، واليزيدي، وغيرهم من البصريين.
روى عن ابن الأعرابي، وأبي زياد الكلابي، وعن الأموي، وأبي عمر والشيباني، والكسائي، والأحمر، والفراء.
وروى الناس من كتبه المصنّفة بضعة وعشرين كتابا، في القرآن والفقه، وغريب الحديث والغريب المصنف، والأمثال، ومعاني الشعر، وغير ذلك.
وله كتب لم يروها، قد رأيتها في ميراث بعض الطاهرين تباع كثيرة في أصناف الفقه كلّه.
وبلغنا أنه كان إذا ألف كتابا أهداه إلى عبد الله بن طاهر، فيحمل إليه