قال أبو جعفر: كان يقرأ علينا ابن حميد من التفسير، فإذا بلغ إلى قوله عز وجل: وَإِذْ يَمْكُرُ بِكَ الَّذِينَ كَفَرُوا لِيُثْبِتُوكَ أَوْ يَقْتُلُوكَ
قال: أَوْ يُخْرِجُوكَ
(الأنفال: ٣٠) ثم دخل أبو جعفر إلى مدينة السلام وكان في نفسه أن يسمع من أبي عبد الله أحمد بن حنبل فلم يتفق له ذلك لموته قبيل دخوله الينا، وقد كان أبو عبد الله قطع الحديث قبل ذلك بسنين، فأقام أبو جعفر بمدينة السلام وكتب عن شيوخها فأكثر، ثم انحدر إلى البصرة فسمع من كان بقي من شيوخها في وقته: كمحمد بن موسى الحرشي وعماد بن موسى القزاز ومحمد بن عبد الأعلى الصنعاني وبشر بن معاذ وأبي الأشعث ومحمد بن بشار بندار ومحمد بن المثنّى وغيرهم فأكثر، وكتب في طريقه عن شيوخه الواسطيين، ثم صار إلى الكوفة فكتب فيها عن أبي كريب محمد ابن العلاء الهمداني وهناد بن السري وإسماعيل بن موسى وغيرهم.
وكان أبو كريب شرس الخلق من كبار أصحاب الحديث، قال أبو جعفر: حضرت باب داره مع أصحاب الحديث، فاطّلع من باب خوخة له، وأصحاب الحديث يلتمسون الدخول ويضجّون، فقال: أيكم يحفظ ما كتب عني؟ فالتفت بعضهم إلى بعض ثم نظروا إلي وقالوا: أنت تحفظ ما كتبت عنه، قال قلت: نعم، فقالوا: هذا فسله، فقلت: حدثتنا في كذا بكذا وفي يوم كذا بكذا. قال: وأخذ أبو كريب في مسألة إلى أن عظم في نفسه فقال له: ادخل إليّ، فدخل إليه وعرف قدره على حداثته، ومكّنه من حديثه. وكان الناس يسمعون به فيقال إنه سمع من أبي كريب أكثر من مائة ألف حديث، ثم عاد إلى مدينة السلام فكتب بها ولزم المقام بها مدة وتفقه بها وأخذ في علوم القرآن.
وقال رجل لأبي جعفر: إن أصحاب الحديث يختارون، فقال: ما كنا نكتب هكذا، كتبت مسند يعقوب بن إبراهيم الدورقي وتركت شيئا منه، ولم أعلم ما كتبت عنه، ثم رجعت لأضع الحديث موضعه وأصنفه فبقي عليّ حديث كثير مما كتبته، وطال عليّ ما فاتني، وكتبت المسند كله ثانيا، والناس يختارون فربما فاتهم أكثر ما يحتاجون إليه، أو نحو هذا الكلام.