قال النابلسي (١): كان أبوه عبدًا روميًا لرجل من أهل هَرَاة، سمع إسماعيل بن جعفر، وإسماعيل بن عياش، وهُشيمًا، وسفيان بن عيينة، وإسماعيل ابن عُلَيَّة، ويزيد بن هارون، ويحيى بن سعيد القطان، وغيرهم. وكان يقصد أحمد ويكتب عنه أشياء.
وقال المصنف: وكان قد أقام ببغداد، ثم ولي القضاء بطرسوس ثمان عشرة سنة، وخرج بعد ذلك إلى مكة فسكنها حتى مات بها.
قال ابن درستويه: جمع صنوفًا من العلم، وصنف كتبًا في كل فن من العلوم والآداب، وكان مؤدَّبًا لابن خُزيمة، وصار في ناحية عبد الله بن طاهر، وكان ذا دين ومذهب حسن، روى عن أبي زيد الأنصاري وأبي عبيدة، والأصمعي، واليزيدي، وغيرهم من البصريين، وروى عن ابن الأعرابي، وأبي زياد الكلابي الأموي، وأبي عمرو الشيباني، والكسائي، والفراء، وروى الناس من كتبه المصنفة بضعة وعشرين كتابًا في القرآن والفقه وغريب الحديث والأمثال ومعاني الشعر، وغير ذلك، ولما عمل كتابه "غريب الحديث" عُرض على عبد الله بن طاهر فاستحسنه، ثم قال: إن عقلًا بعث صاحبه على عمل مثل هذا الكتاب لحقيق أن لا يُحْوَج إلى طلب المعاش، فأجرى له عشرة آلاف درهم في كل شهر.
قال أبو عبيد: كنت في تصنيف هذا الكتاب أربعين سنة، وربما كنت أستفيد الكلمة من أفواه الرجال، فأضعها في موضعها من الكتاب، فأبيتُ ساهرًا فرحًا مني