بويه منذ الصبا فسماه الصاحب، واستمر عليه هذا اللقب حتى اشتهر به ثم أطلق على كل من ولي الوزارة بعده، وكان أولا وزير مؤيد الدولة أبي منصور ابن ركن الدولة ابن بويه، فلما توفي مؤيد الدولة وذلك في شعبان سنة 373 بجرجان، استولى على مملكته أخوه أبو الحسن علي المعروف بفخر الدولة فأقر الصاحب على وزارته، وكان معظما عنده، نافذ الأمر لديه، كما كان أبوه عباد بن العباس وزيرا معظما عند أبيه ركن الدولة، نافذ الأمر لديه، ولما توفي الصاحب - وذلك ليلة الجمعة الرابع والعشرين من صفر سنة خمس وثمانين وثلاث مئة بالري عن تسع وخمسين سنة - أغلقت له مدينة الري، واجتمع الناس على باب قصره ينتظرون خروج جنازته، وحضر فخر الدولة ومعه الوزراء والقواد، وغيروا لباسهم، فلما خرج نعشه صاح الناس بأجمعهم صيحة واحدة، وقبلوا الأرض تعظيما للنعش، ومشى فخر الدولة في تشييع الجنازة كسائر الناس، وقعد للعزاء أياما ورثته الشعراء، وأبنته العلماء، وأثنى عليه كل من تأخر عنه، قال أبو بكر الخوارزمي: نشأ - الصاحب بن عباد - من الوزارة في حجرها، ودب ودرج من وكرها، ورضع أفاويق درها، وورثها عن آبائه. كما قال أبو سعيد الرستمي في حقه:
ورث الوزارة كابرا عن كابر * موصولة الإسناد بالإسناد يروي عن العباس عباد وزا * رته وإسماعيل عن عباد وقال الثعالبي في ترجمة الصاحب من يتيمته: ليست تحضرني عبارة أرضاها للافصاح عن علو محله في العلم والأدب، وجلالة شأنه في الجود والكرم، وتفرده بالغايات في المحاسن، وجمعه أشتات المفاخر،