يقول: إنه يحفظ مائتي ألف حديث، ويجيب في مثلها، إلَّا أنه كان يفضّل الحفَّاظ بأنه كان يسوق المتون بألفاظها، وأكثر الحفَّاظ يتسمَّحون في ذلك، وكان إمامًا في معرفة العلل والرجال وتواريخهم، وما يطعن على الواحد منهم، لم يبق في زمانه من يتقدمه.
أنبأني المسلم بن محمد، أخبرنا أبو اليمن الكندي، أخبرنا الشيباني، أخبرنا أبو بكر الخطيب، حدثني الحسن بن محمد الأشقر، سمعت أبا عمر القاسم بن جعفر الهاشمي، سمعت ابن الجعابي يقول: أحفظ أربع مائة ألف حديث، وأذاكر بست مائة ألف حديث.
قال أبو القاسم التنوخي: تقلَّد ابن الجعابي قضاء الموصل، فلم يحمد في ولايته.
ونقل الخطيب عن أشياخه أنَّ ابن الجعابي كان يشرب في مجلس ابن العميد.
وقال أبو عبد الرحمن السلمي: سألت الدارقطني عن ابن الجعابي فقال: خلط، وذكر مذهبه في التشيع، وكذا نقل أبو عبد الله الحاكم عن الدارقطني قال: وحدَّثني ثقة أنه خلى ابن الجعابي نائمًا، وكتب على رجله، قال: فكنت أراه ثلاثة أيام لم يمسه الماء.
قال الأزهري: إن ابن الجعابي لما مات أوصى بأن تحرق كتبه فأحرقت، فكان فيها كتب للناس، فحدثني أبو الحسين أنه كان له عنده مائة وخمسون جزءًا، فدهبت في جملة ما أحرق.
وقال مسعود السِّجْزي: حدثنا الحاكم، سمعت الدارقطني يقول: أخبرت بعلة الجعابي، فقمت إليه، فرأيته يحرق كتبه، فأقمت عنده حتى ما بقي منه سينه، ومات من ليلته.
أبو ذر الحافظ: سمعت أحمد بن عبدان الحافظ يقول: وقع إليَّ جزء من حديث الجعابي، فحفظت منه خمسة أحاديث، فأجابني فيها، ثم قال: من أين لك هذا؟ قلت: من جزئك، قال: إن شئت ألق عليّ المتن وأجيبك في إسناده، أو ألق عليَّ الإسناد وأجيبك في المتن.
قال الخطيب: سمعت ابن رزقويه يقول: كان ابن الجعابي يمتلئ مجلسه، وتمتلئ السكة التي يملي فيها، والطريق، ويحضر الدارقطني، وابن المظفر، ويملي من حفظه.
قال أبو علي الحافظ: قلت لابن الجعابي: قد وصلت إلى الدينور، فلا أتيت نيسابور، قال: هممت به، ثم قلت: أذهب إلى قوم عجم لا أفهم عنهم ولا يفهمون عني?! قال الحاكم: قلت للدارقطني: يبلغني عن الجعابي أنه تغيِّر عمَّا عهدناه، قال: وأي تغير? قلت: بالله هل أتهمته? قال: إي والله، ثم ذكر أشياء، فقلت: وضح لك أنه خلط في الحديث. قال: إي والله. قلت: هل اتهمته حتى خفت المذهب? قال: ترك الصلاة والدين.