ثم حج ودخل اليمن مع أبيه في نحو من سنة ثمانين، فسمع كتب عبد الرزاق. وسمع بمصر في رجوعه فيما أحسب أو في ذهابه من محدثيها. وسمع بعد ذلك من أهل بغداد، والبصرة، والكوفة، وأصبهان، وغير ذلك.
وكان مولده بعكا في صفر سنة ستين ومائتين، وكانت أمه من عكا.
وصنف معجم شيوخه وهو مجلد مروي، والمعجم الكبير في عدة مجلدات على أسماء الصحابة، والمعجم الأوسط وفيه الأحاديث الأفراد والغرائب، صنفه على ترتيب أسماء شيوخه، وصنف كتاب الدعاء، وكتاب عشرة النساء، وكتاب حديث الشاميين، وكتاب المناسك، وكتاب الأوائل، وكتاب السنة، وكتاب الطوالات، وكتاب الرمي، وكتاب النوادر، مجلد، ومسند أبي هريرة كبير، وكتاب التفسير، وكتاب دلائل النبوة، وكتاب مسند شعبة، وكتاب مسند سفيان، ومسانيد طائفة، وغير ذلك مما غاب عني ذكره أو لم أعرف به.
روى عنه أبو خليفة الفضل بن الحباب، وأبو العباس بن عقدة، وأحمد بن محمد الصحاف، وهم من شيوخه. وأبو بكر بن مردويه، وأبو عمر محمد بن الحسين بن محمد البسطامي فقيه نيسابور، والحسين بن أحمد بن المرزبان، وأبو بكر بن أبي علي الذكواني، وأبو الفضل أحمد بن محمد الجارودي، وأبو نعيم الحافظ، وأبو الحسين أحمد بن فاذشاه، ومحمد بن عبيد الله بن شهريار، وأبو سعيد عبد الرحمن بن أحمد الصفار. وآخر من حدث عنه بالسماع أبو بكر بن ريذة، وبقي بعده بسنتين عبد الرحمن بن أبي بكر الذكواني يروي عنه بالإجازة.
قال أبو بكر بن أبي علي: سأل والدي أبا القاسم الطبراني عن كثرة حديثه فقال: كنت أنام على البواري ثلاثين سنة.
وقال أبو نعيم: قدم الطبراني أصبهان سنة تسعين ومائتين، وخرج، ثم قدمها، فأقام بها يحدث ستين سنة.
وذكر الحافظ سليمان بن إبراهيم الأصبهاني أن أبا أحمد العسال قاضي أصبهان، قال: إذا سمعت من الطبراني عشرين ألف حديث، وسمع منه