توفي الباقلاني - رحمه الله - آخر يوم السبت لسبع بقين من ذي القعدة سنة ٤٠٣ هـ. ودفن يوم الأحد. وصلى عليه ابنه الحسن، الذي اخترمته المنية بعد أبيه. ودفن القاضي - رحمه الله - في داره بنهر دابق في بغداد، ثم نقل بعد ذلك إلى مقبرة باب حرب، ودفن بجوار قبر الإمام أحمد بن جنبل - رحمهم الله جميعًا، وقال القاضي عياض في ترتيب المدارك: وجدت عند غير الخطيب البغدادي أنه توفى سنة ٤٠٤ هـ، أيام بهاء الدولة، والخليفة القادر بالله. ن ولكنه جزم بخطئه. والتاريخ الذي اختاره القاضي عياض اعتمد فيه على الخطيب البغدادي في تاريخه.
ذكر القاضي عياض أن تلميذه أبا عمران الفاسي أثبت سماعه منه إملاء في رمضان من سنة ٤٠٢ هـ.
وذكر ابن عساكر في تبيين كذب المفتري أن شيخ الحنابلة أبا الفضل التميمي الحنبلي المتوفي سنة ٤١٠ هـ حضر يوم وفاته العزاء حافيًا مع إخوته وأصحابه، وأمرن أن ينادى بين يدي جنازته:"هذا ناصر السنة والدين، هذا إمام المسلمين، هذا الذي كان يذب عن الشريعة ألسنة المخالفين، هذا الذي صنف سبعين ألف ورقة ردًا على الملحدين، وقعد للعزاء مع أصحابه ثلاثة أيام فلم يبرح، وكان يزور تربته كل يوم جمعة". وقد كان بين أبي الفضل والقاضي مخالطة ومؤانسة وإعجاب وتقدير، وذلك لما ذكره القاضي أبو الفضل بأنه اجتمع رأسه ورأس القاضي على مخدة واحدة سبع سنين".