484 ثم دخلت سنة أر بع وثمانين وأربعمائة ذكر عزل الوزير أبي شجاع ووزارة عميد الدولة بن جهير في هذه السنة في ربيع الأول عزل الوزير أبو شجاع من وزارة الخليفة.
وكان سبب عزله أن إنسانا يهوديا ببغداد يقال له أبو سعد بن سمحا كان وكبل السلطان ونظام الملك فلقيه إنسان يبيع الحصر فصفعه صفعة أزالت عمامته عن رأسه فأخذ الرجل وحمل إلى الديوان وسئل عن السبب في فعله فقال هو وضعني على نفسه فسار كوهرائين ومعه ابن سمحا اليهودي إلى عسكر يشكيان وكانا متفقين على الشكاية من الوزير أبي شجاع.
فلما سار أخرج توقيع الخليفة بإلزام أهل الذمة بالغيار ولبس ما شرط عليهم أمير المؤمنين عمر بن الخطاب رضي الله عنه فهربوا كل مهرب وأسلم بعضهم فممن أسلم أبو سعد العلاء بن الحسن بن وهب بن موصلايا الكاتب وابن أخيه أبو نصر هبة الله بن الحسن بن علي صاحب الخبر أسلما على يدي الخليفة.