أخذ علم الحديث عن يحيى بن معين، وأحمد بن حنبل، وعلم النسب عن مصعب بن عبد الله الزبيري، وأيام الناس عن أبي الحسن المدائني، والأدب عن محمد بن سلام الجمحي، وله كتاب التاريخ الذي أحسن تصنيفه وأكثر فائدته.
روى عنه عبد الله بن محمد البغوي، ويحيى بن محمد بن صاعد، وأبو بكر بن أبي داود، والحسين بن أحمد بن صدقة، وعلي بن محمد بن عبيد الحافظ، والحسين بن إسماعيل المحاملي، ومحمد بن مخلد الدوري، ومحمد بن أحمد الحكيمي، وأبو الحسين ابن المنادي، وإسماعيل بن محمد الصفار، ومحمد بن عمرو الرزاز، وأحمد بن سلمان النجاد، وأبو سهل بن زياد، وأحمد بن كامل القاضي، وخلق كثير سواهم.
وذكره الدارقطني، فقال: ثقة مأمون.
قلت: ولا أعرف أغزر فوائد من كتاب التاريخ الذي صنفه ابن أبي خيثمة، وكان لا يرويه إلا على الوجه، فسمع منه الشيوخ الأكابر، كأبي القاسم البغوي ونحوه.
وأخبرنا محمد بن أحمد بن يعقوب، قال: أخبرنا محمد بن عبد الله بن محمد النيسابوري، قال: حدثني أبو أحمد الحافظ، قال: استعار أبو العباس يعني محمد بن إسحاق السراج من أبي بكر بن أبي خيثمة شيئا من التاريخ، فقال: يا أبا العباس علي يمين أن لا أحدث بهذا الكتاب إلا على الوجه. فقال أبو العباس: وعلي عزيمة أن لا أكتب إلا ما أستفيد. فرده عليه، ولم يحدث في تاريخه عنه بحرف.
أخبرنا علي بن أيوب القمي، قال: أخبرنا محمد بن عمران المرزباني،