قال ابن العماد (١): وُلِدَ سنة تسعٍ وتسعين وأربع مئة بالدُّور، ودخل بغداد شابًا فطلب العلم، وتَفَقَّه على مذهب أحمد بن حنبل، وسمع الحديث، وقرأ القِراآت، وشارك في الفنون، وصار من فُضَلاءِ زمانهِ، ثم احتاج فدخل في الكتابة، وولي مُشارفة الخزانة، ثم تَرَقَّى وَوَلِيَ دِيوان الخواص، ثم اسْتَوْزَرَهُ المقتفي، فبقي وزيرًا إلى أنْ مات، وكان شامةً بين الوزراء لعدله ودينه وتواضعه، ومعرفته، روى عن أبي عثمان بن مَلَّة وجماعة. ولما وَلَّاهُ المقتفي امتنع من لبس خِلْعَةِ الحرير، وَحَلَفَ أَنْ لا يَلبَسها، وذا شيء لم يَفعله قضاةُ زمانِنا، ولا خطباؤهم، وكانَ مجلسُه معمورًا بالعلماء والفقهاء، والبحث، وسماع الحديث، ومات شهيدًا مسمومًا، في جمادى سنة ستين وخمس مئة. وَوُزر بَعْدَهُ شَرَفُ الدينِ أبو جعفرٍ بنُ البلدي. قاله في "العِبَر".
وقال ابنُ رجب: صحب محمدَ بنَ يحيى الزبيديَّ أبا عبد الله الزاهد الواعظ من حداثته، وكمل عليه فنونًا من العلوم الأدبيةِ وغيرها، وأخذ عنه التَأَلُّهَ والعِبادَة، وانتفعَ بصحبته حتَّى إنَّ الزبيدي كان يركب جملًا ويَعْتَمُّ بفوطةٍ، ويلويها تحت حَنَكِهِ، وعليه جُبَّةُ صوفٍ، وهوَ مَخْضُوبٌ بالحِنَّاء، فيطوف بأسواقِ بغدادَ ويَعِظُ الناس، وزمامُ جمله بيد ابن هُبَيْرَة، وهو أيضًا مُعْتَمٌّ بفوطةٍ من قطن قد لواها تحت حنكه، وعليه قميصُ قطنٍ خامٍ، قصير الكُمِّ والذيل، وكلَّما وصل الزبيدي موضعًا أشارَ ابن هُبَيْرة بمسبحته، ونادى برفيع صوته: لا إله إلاّ اللهُ وحدَه لا شريك له، له المُلكُ وله الحمدُ وهو على كلِّ شيءٍ قديرٌ.
وقال ابن الجوزي: كانت له معرفةٌ حسنةٌ بالنحو، واللغة، والعروض، وصَنَّف في تلك العلومِ، وكان شديدًا في اتِّباع السُّنَّة، وسيرةِ السلف.
وقال ابنُ رجب: استدعاه المُقْتَفِي سنة أربع وأربعين وخمس مئة إلى داره، وقَلَّدَهُ الوزارة، وخلع عليه، وخرج في أُبَّهَةٍ عظيمةٍ، ومشى أرباب الدولة وأصحاب