وقيل: إن الطاغية سأله: كيف جرى لزوجة نبيكم؟ -يقصد توبيخا- فقال: كما جرى لمريم بنت عمران، وبرأهما الله، لكن عائشة لم تأت بولد. فأفحمه.
قال الخطيب سمعت أبا بكر الخوارزمي يقول: كل مصنف ببغداد إنما ينقل من كتب الناس سوى القاضي أبي بكر، فإنما صدره يحوي علمه وعلم الناس.
وقال أبو محمد البافي: لو أوصى رجل بثلث ماله لأفصح الناس لوجب أن يدفع إلى أبي بكر الأشعري.
قال أبو حاتم محمود بن الحسين القزويني: كان ما يضمره القاضي أبو بكر الأشعري من الورع والدين أضعاف ما كان يظهره، فقيل له في ذلك، فقال: إنما أظهر ما أظهره غيظا لليهود والنصارى، والمعتزلة والرافضة، لئلا يستحقروا علماء الحق.
وعمل بعضهم في موت القاضي:
انظر إلى جبل تمشي الرجال به
وانظر إلى القبر ما يحوي من الصلف
وانظر إلى صارم الإسلام منغمدا
وانظر إلى درة الإسلام في الصدف
مات في ذي القعدة، سنة ثلاث وأربعمائة، وصلى عليه ابنه حسن، وكانت جنازته مشهودة، وكان سيفا على المعتزلة والرافضة والمشبهة، وغالب قواعده على السنة، وقد أمر شيخ الحنابلة أبو الفضل التميمي مناديا يقول بين يدي جنازته: هذا ناصر السنة والدين، والذاب عن الشريعة، هذا الذي صنف سبعين ألف ورقة. ثم كان يزور قبره كل جمعة.
قيل: ناظر أبو بكر أبا سعيد الهاروني، فأسهب، ووسع العبارة، ثم قال للجماعة: إن أعاد ما قلت، قنعت به عن الجواب. فقال الهاروني: بل إن أعاد ما قاله، سلمت له.