قال: وحدثني أبو الفضل، عبد الله بن علي المقرئ: سرت أنا وأبو علي بن شاذان، وأبو القاسم عبيد الله بن أحمد بن عثمان الصيرفي، الى قبر القاضي أبي بكر بعد موته بشهر، لنترحّم عليه. فرفعت مصحفاً كان على القبر وقلت: اللهم بيّن لي في هذا المصحف حال أبي بكر وما صار إليه. ثم فتحت المصحف، فإذا فيه:" يا قومِ أرأيتم إن كُنتُ على بيّنةٍ من ربّي وأتاني رحمةً من عنده " الآية.
[ما اشتهر من مناظرته مع الفرق وأخباره في ذلك]
قال الخطيب: حُدّثنا أن ابن المعلم شيخ الرافضة ومتكلمها، حضر بعض مجالس النظر مع أصحاب له. إذ أقبل القاضي أبو بكر الأشعري، فالتفت ابن المعلم الى أصحابه، فقال لهم: جاءكم الشيطان. فسمع القاضي الكلام، وكان في بعد من القوم، فلما جلس أقبل على ابن المعلم وأصحابه وقال لهم: قال الله عز وجلّ: " إنّا أرسلنا الشّياطين على الكافرين تؤزّهُم أزّاً ". وحكى غيره أن الحكاية جرت له مع أهل مجلس