كوفي نزل بغداد، وحدث بها عن ركن الشامي. رَوَى عنه ابنه عمرو بن أبي عمرو وأحمد بن حنبل، وأبو عبيد القاسم بن سلام.
وقيل: إنه لم يكن شيبانيا، ولكنه كان مؤدبا لأولاد ناس من بني شيبان فنسب إليهم. وكان من أعلم الناس باللغة، موثقا فيما يحكيه. وجمع أشعار العرب ودونها، فحكي عن عمرو بن أبي عمرو قال: لما جمع أبي أشعار العرب كانت نيفا وثمانين قبيلة، فكان كلما عمل منها قبيلة وأخرجها إلى الناس كتب مصحفا وجعله في مسجد الكوفة، حتى كتب نيفا وثمانين مصحفا بخطه.
وقال أبو العباس ثعلب: كان مع أبي عمرو الشيباني من العلم والسماع عشرة أضعاف ما كان مع أبي عبيدة. ولم يكن من أهل البصرة مثل أبي عبيدة في السماع والعلم.
أخبرنا علي بن أحمد بن عمر المقرئ، قال: أخبرنا إسماعيل بن علي الخطبي، قال: حدثنا عبد الله بن أحمد بن حنبل، قال: حدثني أبي، قال: حدثنا سفيان بن عيينة، عن أبي الزناد، عن الأعرج، عن أبي هريرة، عن النبي ﷺ: أخنع اسم عند الله يوم القيامة رجل تسمى بملك الأملاك. قال عبد الله: