وكان معه أولاده علي والحسن، وأحمد.
ثم مضت السنون، وخرج بولده إلى خراسان، فخدموا مرداويخ بن زيار الديلمي، إلى أن صار علي قائدا، فأرسله يستخرج له مالا من الكرج، فاستخرج خمسمائة ألف درهم، فأخذ المال وآتى همدان ليملكها، فغلق أهلها في وجهه الأبواب، فقاتلهم وفتحها عنوة وقتل خلقا.
ثم صار إلى إصبهان وبها المظفر بن ياقوت، فلم يحاربه وسار إلى أبيه بشيراز. ثم صار إلى أرجان، فأخذ الأموال، وتنقل في النواحي، وانضم إليه خلق، وصارت خزائنه خمسمائة ألف دينار. فجاء إلى شيراز وبها ابن ياقوت، فخرج إليه في بضع عشر ألفا، وكان علي بن بويه في ألف رجل، فهابه علي وسأله أن يفرج له عن الطريق لينصرف، فأبى عليه، فالتقوا فانكسر علي، ثم انهزم ابن ياقوت، ودخل علي شيراز.
ثم إنه قل ما عنده فنام على ظهره، فخرجت حية من سقف المجلس، فأمر بنقضه، فخرجت صناديق ملأى ذهبا، فأنفقها في جنده.