قال ابن النجار: ولد الخطيب بقرية من أعمال نهر الملك، وكان أبوه خطيبًا بدرزيجان ونشأ هو ببغداد وقرأ القراءات بالروايات وتفقه على الطبري وعلق عنه شيئًا من الخلاف إلى أن قال: وروى عنه محمد بن عبد الملك بن خيرون وأبو سعد أحمد بن محمد الزوزني ومفلح بن أحمد الدومي والقاضي محمد بن عمر الأرموي وهو آخر من حدث عنه يعني بالسماع.
وروى عنه بالإجازة طائفة عددت في "تاريخ الإسلام" آخرهم مسعود بن الحسن الثقفي ثم ظهرت إجازته له ضعيفةً مطعونًا فيها فليعلم ذلك.
وكتابة الخطيب مليحة مفسرة كاملة الضبط بها أجزاء بدمشق رأيتها. وقرأت بخطه: أخبرنا، علي بن محمد السمسار، أخبرنا ابن المظفر، حدثنا عبد الرحمن بن محمد بن أحمد بن محمد بن الحجاج، حدثنا جعفر بن نوح، حدثنا محمد بن عيسى، سمعت يزيد بن هارون يقول: ما عزت النية في الحديث إلَّا لشرفه.
قال أبو منصور علي بن علي الأمين: لما رجع الخطيب من الشام كانت له ثروة من الثياب والذهب وما كان له عقب فكتب إلى القائم بأمر الله: إن مالي يصير إلى بيت مال فائذن لي حتى أفرقه فيمن شئت. فأذن له ففرقها على المحدثين.
قال الحافظ ابن ناصر: أخبرتني أمي أن أبي حدثها قال: كنت أدخل على الخطيب وأمرضه فقلت له يومًا: يا سيدي! إن أبا الفضل بن خيرون لم يعطني شيئًا من الذهب الذي أمرته أن يفرقه على أصحاب الحديث. فرفع الخطيب رأسه من المخدة وقال: خذ هذه الخرقة بارك الله لك فيها. فكان فيها أربعون دينارًا فأنفقتها مدة في طلب العلم.
وقال مكي الرميلي: مرض الخطيب في نصف رمضان إلى أن اشتد الحال به في غرة ذي الحجة وأوصى إلى ابن خيرون ووقف كتبه على يده وفرق جميع ماله في وجوه البر وعلى المحدثين وتوفي في رابع ساعة من يوم الاثنين سابع ذي الحجة من سنة ثلاث وستين ثم أخرج بكرة الثلاثاء وعبروا به إلى الجانب الغربي وحضره القضاة والأشراف والخلق. وتقدم في الإمامة أبو الحسين بن المهتدي بالله فكبر عليه أربعًا ودفن بجنب قبر بشر الحافي.
وقال ابن خيرون: مات ضحوة الاثنين ودفن بباب حرب. وتصدق بماله وهو مائتا دينار، وأوصى بأن يتصدق بجميع ثيابه، ووقف جميع كتبه، وأخرجت جنازته من حجرة تلي النظامية، وشيعة الفقهاء والخلق، وحملوه إلى جامع المنصور، وكان بين يدي الجنازة