وقال أبو حازم عُمَر بْن أحمد العبدويّ الحافظ: سَمِعْتُ الحاكم أبا عَبْد الله إمام أهل الحديث في عصره يَقُولُ: شربت ماء زمزم وسألت الله تعالى أن يرزقني حُسْن التَّصنيف.
قَالَ أبو حازم: وسمعتُ السُّلميّ يَقُولُ: كتبت عَلَى ظهر جزء: من حديث أَبِي الحسين الحجّاجيّ الحافظ. فأخذ القلم وضَرَبَ عَلَى الحَافظ، وقال: أيش أحفظ أَنَا؟! أبو عَبْد الله ابن البيّاع أحفظ منّي، وأنا لم أرَ من الحُفّاظ إلا أبا عليّ الحافظ النيَّسابوريّ، وابن عُقْدة.
وسمعتُ السُّلميّ يَقُولُ: سالت الدارقُطْنيّ: أيها أحفظ ابن مَنْدَهْ أو ابن البيّع؟
فقال: ابن البيّع أتقن حِفظًا.
قَالَ أبو حازم: أقمتُ عند الشيخ أبي عَبْد الله العُصمي قريبًا من ثلاث سِنين، ولم أرَ في جملة مشايخنا أتقن منه ولا أكثر تنقيرًا. وكان إذا أشكلَ عَليْهِ شيء أمرني أن أكتب إلى الحاكم أَبِي عَبْد الله. فإذا أورد جواب كتابه حكم بِهِ وقطع بقوله.
ذكر هذا كلّه الحافظ أبو القاسم بْن عساكر أنّه قرأه بخطّ أَبِي الحَسَن عليّ بْن سليمان اليمنيّ.