ابن أبي شيبة من بيت علم، لديهم رغبة في رواية الحديث، ولذا بكّر في طلب الحديث وزاحم أقرانه عند كبار شيوخ عصره؛ حتى قال يحيى بن عبد الحميد الحماني: أولاد ابن أبي شيبة من أهل العلم، كانوا يزاحموننا عند كل محدث.
فإن جده أبا شيبة إبراهيم بن عثمان العبسي تولى القضاء بواسط، وعرف بالفقه، وشغله القضاء عن ضبط الحديث فضعف فيه، توفي سنة ١٦٩ هـ، وخاله هو الحكم ابن عتيبة الفقيه المشهور (١).
وأبوه هو محمد بن إبراهيم الكوفي القاضي الثقة، تولى قضاء فارس، وتوفي سنة ١٨٢ هـ.
ومن إخوانه:
١ - الحافظ عثمان بن أبي شيبة، توفي سنة ٢٣٩ هـ، وهو من رجال الصحيحين أخرج له البخاري ٦١ حديثًا وأخرج له مسلم (١١٧) حديثًا وله في الكتب الستة (٥٣٥) حديثًا.
٢ - القاسم بن أبي شيبة.
وابنه هو الحافظ إبراهيم بن أبي بكر، ولد في أيام سفيان بن عيينة، وسمع أبا نعيم الفضل بن دكين وعبيد اللَّه بن موسى، وروى عنه ابن ماجه والنسائي وابن جرير وابن أبي حاتم، وهو من تلامذة الإمام أحمد، توفي سنة ٢٦٥ هـ.
ومن أبنائه أيضًا: محمد بن أبي بكر بن أبي شيبة له رواية عند أبي داود.
والحافظ أبو جعفر محمد بن عثمان بن أبي شيبة ابن أخيه توفي سنة ٢٩٧ هـ.