وقد ذكره القاضي عياض في طبقات المالكية، فقال: هو الملقب بسيف السنة، ولسان الأمة، المتكلم على لسان أهل الحديث، وطريق أبي الحسن، وإليه انتهت رئاسة المالكية في وقته، وكان له بجامع البصرة حلقة عظيمة.
حدث عنه: الحافظ أبو ذر الهروي، وأبو جعفر محمد بن أحمد السمناني، وقاضي الموصل، والحسين بن حاتم الأصولي.
قال أبو بكر الخطيب: كان ورده في كل ليلة عشرين ترويحةً في الحضر والسفر، فإذا فرغ منها، كتب خمسًا وثلاثين ورقةً من تصنيفه. سمعت أبا الفرج محمد بن عمران يقول ذلك. وسمعت علي بن محمد الحربي يقول: جميع ما كان يذكر أبو بكر بن الباقلاني من الخلاف بين الناس صنفه من حفظه، وما صنف أحد خلافًا إلَّا احتاج أن يطالع كتب المخالفين، سوى ابن الباقلاني.
قلت: أخذ القاضي أبو بكر المعقول عن أبي عبد الله محمد بن أحمد ابن مجاهد الطائي صاحب أبي الحسن الأشعري.
وقد سار القاضي رسولًا عن أمير المؤمنين إلى طاغية الروم، وجرت له أمور، منها أن الملك أدخله عليه من باب خوخة ليدخل راكعًا للملك، ففطن لها القاضي، ودخل بظهره.
ومنها أنه قال لراهبهم، كيف الأهل والأولاد؟ فقال الملك: مه! أما علمت أن الراهب يتنزه عن هذا؟ فقال: تنزهونه عن هذا، ولا تنزهون رب العالمين عن الصاحبة والولد! وقيل: إن الطاغية سأله: كيف جرى لزوجة نبيكم؟ يقصد توبيخًا قال: كما جرى لمريم بنت عمران، وبرأهما الله، لكن عائشة لم تأت بولد. فأفحمه.
قال الخطيب: سمعت أبا بكر الخوارزمي يقول: كل مصنف ببغداد إنما ينقل من كتب الناس سوى القاضي أبي بكر، فإنما صدره يحوي علمه وعلم الناس.
وقال أبو محمد البافي: لو أوصى رجل بثلث ماله لأفصح الناس، لوجب أن يدفع إلى أبي بكر الأشعري.
قال أبو حاتم محمود بن الحسين القزويني: كان ما يضمره القاضي أبو بكر الأشعري من الورع والدين أضعاف ما كان يظهره، فقيل له في ذلك، فقال: إنما أظهر ما أظهره غيظًا لليهود والنصارى، والمعتزلة والرافضة، لئلا يستحقروا علماء الحق.