توفي أبو بكر بن أبي شيبة يوم الخميس لثمان خلون من المحرم سنة خمس وثلاثين ومائتين، أرخ وفاته بهذا البخاري فيما نقله ابن القيسراني في الجمع بين رجال الصحيحين ونقل تاريخ وفاته بهذه السنة عن البخاري أيضا الذهبي في التذكرة والخزرجي في الخلاصة وأرخ وفاته بهذه السنة الذهبي في الميزان والعبر والنووي في شرج صحيح مسلم وابن حجر في تقريب التهذيب وابن كثير في البداية والنهاية وابن العماد في شذرات الذهب ونقل الخطيب في تاريخه عن إبراهيم ابن محمد بن عرفة أنه توفي سنة أربع وثلاثين ومائتين ثم قال الخطيب: هذا وهم لأنه مات في سنة خمس وثلاثين ومائتين ونقل عن عبيد الله بن محمد بن خلف البزار ومحمد بن عبد الله الحضرمي أنه مات لثمان خلون من المحرم سنة خمس وثلاثين ومائتين وقد ذكر الخطيب تاريخ سنة ولادته فقال: ولد سنة تسع وخمسين ومائة، فمدة عمره ست وسبعون سنة رحمه الله.