وذكره أبو الفرج بن الجوزي فقال: كان يجتهد في اتباع الصواب، ويحذر الظلم، ولا يلبس الحرير. قال لي: لما رجعت من الحلة دخلت على المقتفي، فقال لي: ادخل هذا البيت وغير ثيابك. فدخلت فإذا خادم وفراش ومعهم خلعة حرير، فقلت: والله ما ألبسها. فخرج الخادم فأخبر المقتفي فسمعت صوته يقول: قد والله قلت إنه ما يلبس.
وكان المقتفي معجبا به ولما استخلف المستنجد دخل عليه فقال له: يكفي في إخلاصي أني ما حابيتك في زمن أبيك. فقال: صدقت.) قال: وقال مرجان الخادم: سمعت المستنجد بالله ينشد لوزيره وقد مثل بين يديه في أثناء مفاوضة ترجع إلى تقرير قواعد الدين وإصلاح أمور المسلمين، فأعجب المستنجد به، فأنشده لنفسه:
* صفت نعمتان خصتاك وعمتا * فذكرهما حتى القيامة يذكر * * وجودك والدنيا إليك فقيرة * وجودك والمعروف في الناس ينكر * * فلو رام يا يحيى مكانك جعفر * ويحيى لكفا عنه يحيى وجعفر * * ولم أر من ينوي لك السوء يا أبا ألم * ظفر إلا كنت أنت المظفر *