لقد تتلمذ الحافظ ابن أبي شيبة على عدد كثير من علماء العراق والحجاز وغيرهما من البلدان، وروى عن جماعة كثيرة من رواة الحديث، ذكر المزي في ترجمته منهم (١٢١)، وفي المصنف العديد من شيوخه الذين لم يذكرهم الحافظ المزي، وسأورد أشهرهم هنا؛ لنتبين الطبقة التي يروي عنها، فمن هؤلاء حسب ترتيبهم بناءً على سنة الوفاة:
١) القاضي شريك بن عبد اللَّه (ت ١٧٧ هـ) وهو أكبر شيخ له (م، د، ق).
٢) أبو الأحوص سلام بن سليم (ت ١٧٩ هـ)(م، ق).
٣) أبو المحياة يحيى بن يعلى التميمي (ت ١٨٠ هـ)(م، ق).