لما كان أول ربيع الأول من سنة إحدى وأربعين ومائتين، حُمَّ الإمام أحمد ليلة الأربعاء، وبات وهو محموم، يتنفس تنفسًا شديدًا، وكان ابنه صالح يمرضه إذا اعتلَّ، وكان يختلف إليه غير متطبب. وكثر الناس على بابه، فجعلوا يدخلون عليه أفواجًا، حتى تمتلئ الدار، فيسألونه، ويدعون له، ويخرجون، ويدخل فوج، وكثر الناس، وامتلأ الشارع، وأُغلق باب الزقاق، فكان الناس في الشوارع والمساجد، حتى تعطل بعض الباعة، وكان الرجل إذا أراد أن يدخل عليه، ربما دخل من بعض الدور، وربما تسلق، وجاء أصحاب الأخبار، فقعدوا على الأبواب.
فلما كان قبل وفاته بيوم أو يومين، قال: ادعوا لي الصبيان، بلسان ثقيل. فجعلوا ينضمون إليه، وجعل يشمهم ويمسح رءوسهم، وعينه تدمع، وكان يبول دمًا عبيطًا. ولم يئن إلا في الليلة التي توفي فيها، ولم يزل يصلي قائمًا، يمسكه ابنه صالح، فيركع ويسجد، ويرفعه في ركوعه. واجتمعت عليه الأوجاع، ولم يزل عقله ثابتًا.
واشتدت علته يوم الخميس، فلما كانت ليلة الجمعة، ثقل، وقُبض لاثنتي عشرة خلت من ربيع الأول، لساعتين من النهار. فصاح الناس، وعلت الأصوات بالبكاء، حتى كأن الدنيا قد ارتجت، وامتلأت السكك والشوارع.
وغُسِّل، وكُفِّن في ثلاث لفائف، وأخرجت الجنازة بعد منصرفي الناس من الجمعة. وصلى عليه ابن طاهر نائب بغداد. ولم يعلم الناس بذلك، فلما كان في الغد علموا، فجعلوا يجيئون، ويصلون على القبر، ومكث الناس ما شاء اللَّه، يأتون، فيصلون على القبر. وحُزر عدد من شهد جنازته، فإذا هو نحو من ألفِ ألفٍ.