روى عنه الدارقطني، وأبو حفص بن شاهين، وابن رزقويه، وابن الفضل القطّان، والحاكم أبو عبد الله، وأبو عمر الهاشمي، وآخرون، آخرهم وفاة أبو نعيم الحافظ.
مولده في صفر سنة أربع وثمانين ومائتين.
قال أبو علي الحافظ النيسابوري: ما رأيت في المشايخ أحفظ من عبدان، ولا رأيت في أصحابنا أحفظ من أبي بكر بن الجعابي، وذاك أني حسبته من البغداديين الذين يحفظون شيخاً واحداً أو ترجمة واحدة أو باباً واحداً، فقال لي أبو إسحاق بن حمزة يوماً: يا أبا علي لا تغلط في ابن الجعابي فإنّه يحفظ حديثاً كثيراً. قال: فخرجنا يوماً من عند ابن صاعد، فقلت له: يا أبا بكر أيش أسند الثوري عن منصور؟ فمر في الترجمة، فقلت: أيش عند أيوب عن الحسن؟ فمر في الترجمة، فما زلت أجره من حديث مصر إلى حديث الشام إلى العراق إلى أفراد الخراسانيين وهو يجيب، فقلت: أيش روى الأعمش، عن أبي صالح، عن أبي سعيد، وأبي هريرة بالشركة، فذكر بضعة عشر حديثاً، فحيّرني حفظه. رواها الحاكم عن أبي علي.
وقال محمد بن الحسين بن الفضل: سمعت ابن الجعابي يقول: دخلت الرقة، وكان لي ثم قمطرين كتب فأنفذت غلامي إلى الذي عنده كتبي، فرجع مغموماً، وقال: ضاعت الكتب، فقلت: يا بني لا تغتم، فإن فيها مائتي ألف حديث لا يشكل عليّ حديث منها لا إسناداً ولا متناً.
وقال أبو علي التنوخي: ما شاهدنا أحفظ من أبي بكر بن الجعابي، وسمعت من يقول: إنّه يحفظ مائتي ألف حديث ويجيب في مثلها، إلاّ أنه كان يفضل الحفاظ بأنه كان يسوق المتون بألفاظها، وأكثر الحفاظ يتسمحون في ذلك، وكان إماماً في المعرفة بعلل الحديث وثقات الرجال ومواليدهم ووفياتهم، وما يطعن على كل واحد منهم، ولم يبق في زمانه من يتقدّمه في الدنيا.
قال أبو ذر الهروي: سمعت أبا بكر بن عبدان الحافظ يقول: وقع إليّ جزء من حديث الجعابي، فحفظت منه خمسة أحاديث، فأجابني فيها، ثم قال: من أين لك هذا؟ قلت: من جزء لك. قال: إن شئت ألق علي المتن وأجيبك