قال أبو الفرج ابن الجوزي: حدثني الوزير ابن هبيرة، قال: جلست مع الزبيدي من بكرة إلى قريب الظهر، وهو يلوك شيئًا في فيه، فسألته، فقال: لم يكن لي شيء، فأخذت نواة أتعلل بها! قال ابن الجوزي: وكان يقول الحق وإن كان مرًا، ولا تأخذه في الله لومة لائم. ولقد حكي أنه دخل على الوزير الزينبي وقد خلعت عليه خلع الوزارة، والناس يهنئونه بالخلعة، فقال هو: هذا يوم عزاء لا يوم هناء، فقيل: لم؟ فقال: أهنئ على لبس الحرير؟!
قال أبو الفرج: وحدثني عبد الرحمن بن عيسى الفقيه، قال: سمعت محمد بن يحيى الزبيدي، قال: خرجت إلى المدينة على الوحدة، فآواني الليل إلى جبل، فصعدت وناديت: اللهم إني الليلة ضيفك. ثم نزلت فتواريت عند صخرة، فسمعت مناديًا ينادي: مرحبًا يا ضيف الله. إنك مع طلوع الشمس تمر بقوم على بئر يأكلون خبزًا وتمرًا، فإذا دعوك فأجب، فهذه ضيافتك. فلما كان من الغد سرت، فلما طلعت الشمس لاحت لي أهداف بئر، فجئتها، فوجدت عندها قومًا يأكلون خبزًا وتمرًا، ودعوني، فأجبت.
وقال ابن السمعاني: كان يعرف النحو معرفة حسنة، ويعظ، ويسمع معنا من غير قصد من القاضي أبي بكر الأنصاري، وغيره. وكان فنًا عجيبًا. وكان في أيام المسترشد يخضب بالحناء، ويركب حمارًا مخضوبًا بالحناء، وكان يجلس ويجتمع عليه العوام، ثم فتر سوقه. ثم إن الوزير عون الدين ابن هبيرة نفق عليه الزبيدي ورغب فيه. وسمعت جماعة يحكون عنه أشياء السكوت عنها أولى.
ثم قال: وقيل لي: إنه يذهب إلى مذهب السالمية، ويقول: إن الأموات يأكلون ويشربون وينكحون في قبورهم، والسارق والشارب للخمر والزاني لا يلام على فعله؛ لأنه يفعل بقضاء الله وقدره. وسمعت علي بن عبد الملك