وقال أبو حاتم: كان مُتْقِنًا صَدُوقًا، ولم أر من المحدثين من يحفظ ويأتي بالحديث على لفظ واحدٍ لا يُغَيّره سوى قبيصة، وأبي نُعَيْم في حديث الثَّوْريّ، ويحيى الحِمَّاني في شريك، وعلي بن الجَعْد في حديثه.
وسئل عَبْدوس بن عبد الله النَّيْسابوري عن حال علي بن الجَعْد، فقال: ما أعلم أني لقيت أحفظ منه. فقيل: كان يُتَّهَمُ بالجَهْم. قال: قيل هذا ولم يكن كما قالوا، إلا أن ابنه الحسن كان على قضاء بغداد وكان يقول بقول الجهم، وكان عنده عن شعبة نحو من ألف ومائتي حديث، وكان قد لقي المشايخ فزهدت فيهم بسبب هذا القول، ثم ندمت بعد.
وقال موسي بن الحسن: وذكر يحيى بن معين علي بن الجعد فقال: رَبَّانيّ العِلْم.
وقال محمد بن حَمَّاد المقرئ: سألت يحيى بن معين عنه، فقال: ثقة صدوقٌ، قلت: وهذا الذي كان منه؟ فقال: أيش كان منه؟ ثقة صدوق.
أخبرنا أبو موسى، أنا أبو منصور، أنا أبو بكر بن ثابت، أنا عبيد الله ابن أبي الفَتْح، ثنا عبيد الله بن أحمد بن يعقوب المقرئ، حدثني عبد الرزاق بن سُلَيْمان بن علي بن الجَعْد، قال: سمعت أبي يقول: لما أحضر المأمون أصحاب الجَوْهر فناظرهم على متاع كان له معهم، ثم نهض المأمون إلى بعض حاجته، ثم خرج فقام له كل من كان في المجلس إلا ابن الجَعْد، فإنه لم يَقُم له، فنظر إليه المأمون كهيئة المُغْضب ثم استخلاه فقال له: يا شيخ ما منعك أن تقوم لي كما قام أصحابك؟ فقال: أجللتُ أمير المؤمنين للحديث الذي نأثره عن النبي -صَلَّى اللهُ عَلَيْهِ وَسَلَّمَ-. قال: وما هو؟ قال: سمعت المبارك بن فضالة يقول: سمعت الحسن يقول: قال النبي -صَلَّى اللهُ عَلَيْهِ وَسَلَّمَ-: "من أحبَّ أن يتمثل له الرِّجالُ قيامًا فليتبوأ مقعده من النَّارِ".