حدث عن أبي القاسم البغوي، وأبي بكر بن دريد، وأبي حامد محمد بن هارون الحضرمي ونفطويه، وغيرهم. روى عنه أبو القاسم التنوخي، وأبو محمد الجوهري، وغيرهما، وكان أخبارياً راوية للآداب، صنف في أخبار الشعراء وفي الغزل، غير أن أكثر كتبه لم تكن مما سمعه، بل بالإجازة، فيقول: أخبرنا، ولا يبين.
وقال القاضي أبو عبد الله الحسين بن علي الصيمري: سمعت أبا عبيد الله المرزباني يقول: كان في داري خمسون، ما بين لحاف ودواج معدة لأهل العلم الذين يبيتون عندي.
وقال أبو القاسم الأزهري: كان المرزباني يضع المحبرة وقنينة النبيذ، فلا يزال يكتب، ويشرب، وكان معتزلياً، صنف كتاباً في أخبار المعتزلة، وما كان ثقة.
قال الخطيب: ليس حاله عندنا الكذب، وأكثر ما عيب عليه المذهب، وروايته بالإجازة، ولم يبينها.
وقال العتيقي: كان معتزلياً ثقة، مات في شوال، وله ثمان وثمانون سنة.
قال القفطي: كان في زمانه تشبه تصانيفه بتصانيف الجاحظ.
قال أبو علي الفارسي النحوي: أبو عبيد الله المرزباني من محاسن الدنيا، وكان الملك عضد الدولة مع عظمته يجتاز بباب المرزباني، فيقف حتى يخرج إليه المرزباني، فيسلم عليه، وكانت داره مجمع الفضلاء.
وكان مستهتراً يشرب النبيذ، وكتابه في أخبار الشعراء خمسة آلاف ورقة، وله كتاب آخر في الشعراء المحدثين خاصة كبير إلى الغاية، يكون عشرة آلاف ورقة. وله كتاب أخبار النحاة ثلاثة آلاف ورقة، وأخبار المتكلمين ألف ورقة، وأخبار المتيمين ثلاثة آلاف ورقة، وأخبار الغناء