سمع: علي بن عاصم، ويزيد بن هارون، وأزهر السمان، وبشر بن عمر الزهراني، وجعفر بن عون، وروح بن عبادة، وأبا بدر شجاع بن الوليد، وعبد الله بن بكر السهمي، وأبا عامر العقدي، وعبد الوهاب الخفاف، ومحاضر بن المورع، وأبا النضر هاشم بن القاسم، ووهب بن جرير، ويعلى بن عبيد، وخلقاً من طبقتهم. ثم كتب عن طبقة أخرى بعدهم، كعلي ابن المديني، ويحيى بن معين، وأحمد بن حنبل. ثم كتب عن طبقة أخرى بعدهم كالحسن بن علي الحلواني، ومحمد بن يحيى الذهلي، وهارون الحمال.
روى عنه: حفيده محمد بن أحمد بن يعقوب، ويوسف بن يعقوب الأزرق، وجماعة.
وثقه الخطيب، وغيره.
وصنف مسنداً كبيراً إلى الغاية القصوى لم يتمه. ولو تم لجاء في مائتي مجلد.
قال الدارقطني: لو كان كتاب يعقوب بن شيبة مسطوراً على حمام لواجب أن يكتب.
وقال أبو بكر الخطيب: حدثني الأزهري قال: بلغني أنه كان في منزل يعقوب بن شيبة أربعون لحافاً أعدها لمن كان يبيت عنده من الوراقين الذين يبيضون المسند، ولزمه على ما خرج منه عشرة آلاف دينار.
قال: وقيل لي: إن نسخة بمسند أبي هريرة شوهدت بمصر، فكانت مائتي جزء.
قال: والذي ظهر له من المسند: مسند العشرة، وابن مسعود، وعمار، وعتبة بن غزوان، والعباس، وبعض الموالي.
قلت: وبلغني أن مسند علي رضي الله عنه له في خمسة مجلدات،،