قال أبو الفرج بن الجوزي: حدثني البراندسي قال: جلست مع الزبيدي من بكرة إلى قريب الظهر، وهو يلوك شيئا في فيه، فسألته، فقال: لم يكن لي شيء، فأخذت نواة أتعلل بها.
قال ابن الجوزي: وكان يقول الحق وإن كان مرا، ولا تأخذه في الله لومة لائم. ولقد حكي أنه دخل على الوزير الزينبي وقد خلعت عليه خلع الوزارة، والناس يهنونه بالخلعة، فقال هو: هذا يوم عزاء لا يوم هناء. فقيل له، فقال: أهنيء على لبس الحرير قال أبو الفرج: وحدثني عبد الرحمن بن عيسى الفقيه قال: سمعت محمد بن يحيى الزبيدي قال: خرجت إلى المدينة على الوحدة، فأواني الليل إلى جبل، فصعدت وناديت:) اللهم إني الليلة ضيفك. ثم نزلت فتواريت عند صخرة، فسمعت مناديا ينادي: مرحبا يا ضيف الله. لك مع كل طلوع الشمس تمر بقوم على بئر يأكلون خبزا وتمرا، فإذا دعوك فأجب، فهذه ضيافتك.
فلما كان من الغد سرت، فلما طلعت الشمس لاحت لي أهداف بئر، فجئتها، فوجدت عندها قوم يأكلون خبزا وتمرا، ودعوني، فأجبت.
قال ابن السمعاني: كان يعرف النحو معرفة حسنة، ويعظ، ويسمع معنا من غير قصد من القاضي أبي بكر الأنصاري، وغيره. وكان فنا عجيبا.
وكان في أيام المسترشد يخضب بالحناء، ويركب حمارا مخضوبا بالحناء، وكان يجلس ويجتمع عليه العوام، ثم فتر سوقه. ثم إن الوزير عون الدين ابن هبيرة نفق عليه الزبيدي ورغب فيه.