ولما حضره الموت عقد لابنه أبي عقال العهد واستخلف أخاه إبراهيم لئلا ينازعه وأشهد عليه آل الأغلب ومشايخ القيروان وأمره أن يتولى الأمر إلى أن يكبر ولده، فلما مات أتى أهل القيروان إبراهيم وسألوه أن يتولى أمرهم لحسن سيرته وعدله فلم يفعل ثم أجاب وانتقل إلى قصر الإمارة وباشر الأمور وأقام فيها قياما مرضيا.
وكان عادلا حازما في أموره أمن البلاد وقتل أهل البغي والفساد، وكان يجلس للعدل في جامع القيروان يوم الخميس والاثنين يسمع شكوى الخصوم ويصبر عليهم وينصف بينهم.
وكانت القوافل والتجار يسيرون في الطرق آمنين.
وبنى الحصون والمحارس على سواحل البحر حتى كان يوقد النار من ستة فيصل الخبر إلى الإسكندرية في الليلة الواحدة.
وبنى على سوسة سورا وعزم على الحج فرد المظالم وأظهر الزهد والنسك وعلم أنه إن جعل طريقه إلى مكة على مصر منعه صاحبها ابن طولون فتجري بينهما حرب فيقتل المسلمون فجعل طريقه على جزيرة صقلية ليجمع بين الحج والجهاد ويفتح ما بقي من حصونها، فأخرج جميع ما ادخره من المال والسلاح وغير ذلك وسار إلى سوسة فدخلها وعليه فرو مرقع في زي الزهاد أول سنة تسع وثمانين ومائتين وسار منها في الأسطول إلى صقلية.