سيفه الذي يضرب به وكلما فتحت له فتحا كتب إلى الخلفاء أن ابني حبيبا فتحه وقد جعل له العهد بعده وعزلك عنه ولم تزل تغريه به فتحرك لقولها وأعمل الحيلة على أخيه.
ثم ان السفاح توفي وولي الخلافة بعده المنصور فأقر عبد الرحمن على إفريقية وأرسل إليه خلعة سوداء أول خلافته فلبسها وهي أول سواد دخل إفريقية فأرسل إليه عبد الرحمن هدية وكتب يقول ان إفريقية اليوم اسلامية وقد انقطع السبي منها والمال فلا تطلب مني مالا فغضب المنصور وأرسل إليه يتهدده فخلع المنصور بإفريقية ومزق خلعته وهو على المنبر وكان خلع المنصور مما أعان أخاه الياس عليه فاتفق جماعة من وجوه القيروان معه على أن يقتلوا عبد الرحمن ويولوه ويعيدوا الدعاء للمنصور فبلغ عبد الرحمن فأمر أخاه الياس بالمسير إلى تونس فتجهز ودخل إليه يودعه ومعه أخوه عبد الوارث فلما دخلا على عبد الرحمن قتلاه وكان قتله في ذي الحجة سنة سبع وثلاثين ومائة وكانت إمارته على إفريقية عشر سنين وسبعة أشهر.
ولما قتل ضبط الياس أبواب الدار ليأخذ ابنه حبيبا فلم يظفر به وهرب حبيب إلى تونس واجتمع بعمه عمران بن حبيب وأخبره بقتل أبيه وسار الياس إليهما واقتتلوا قتالا يسيرا ثم اصطلحوا على أن يكون لحبيب فقصة وقسطيلة ونفزة ويكون لعمران تونس وصطفورة والجزيرة ويكون سائر إفريقية لإلياس وكان هذا الصلح سنة ثمان وثلاثين ومائة فلما اصطلحوا سار حبيب بن عبد الرحمن إلى عمله ومضى الياس مع أخيه عمران إلى تونس فغدر بعمران أخيه وقتله وأخذ تونس وقتل بها جماعة من أشراف العرب وعاد إلى القيروان فلما استقر بها بعث بطاعته إلى المنصور مع وفد،