عثمان بن ياسر، وعمرو بن زياد اليحصبي، وعمر بن كثير، وعمرو بن شرحبيل، كتب إلى كل رجل منهم كتابا يعلمه بالذي بلغه عن عبد العزيز بن موسى، وما هم به من الخلع، وأنه قد كتب إلى عبد الله بن موسى يأمره بإشخاصهم إلى عبد العزيز، وأعلمه إنما دعاه إلى ذلك الذي أحب من مكانفتكم، لأنه بإزاء العدو، وأعطاهم العهود، أن من قتله منهم فهو أمير مكانه. وكتب إلى عبد الله بن موسى: إني نظرت فإذا عبد العزيز بإزاء عدو يحتاج فيه إلى الغناء والبلاء. فسأل أمير المؤمنين فأخبر أن معك رجالا، منهم فلان وفلان، فأشخصهم إلى عبد العزيز بن موسى، وكتب سليمان إلى عبد العزيز: أما بعد، فإن أمير المؤمنين علم ما أنت بسبيله من العدو، وحاجتك إلى الرجال أهل النكاية والغناء، فذكر له أن بأفريقية رجالا منهم، فكتب أمير المؤمنين إلى عبد الله بن موسى يأمره بإشخاصهم إليك، فولهم أطرافك وثغورك، واجعلهم أهل خاصتك. وكتب إليهم سليمان: إني قد بعثت لكم بكتاب إلى أهل الأندلس بالسمع والطاعة لكم، والغدر في قتله، فإذا ولاكم أطرافه فأقروا عهدي على من قبلكم من المسلمين، ثم ارجعوا إليه حتى تقتلوه. فلما قدم الكتاب على عبد الله بن موسى بأفريقية، أشخص القوم، فخرجوا حتى قدموا على عبد العزيز بالأندلس بكتاب سليمان في إلطافهم وإكرامهم، فقربهم عبد العزيز وأكرمهم وحياهم، وقال لهم:
اختاروا أي نواحي وثغوري شئتم، فضربوا الرأي فقالوا: إنكم إن فعلتم ما أنتم فاعلون، ثم رجعتم إليه من أطرافه، لم نأمن أن يميل معه عظيم الناس، فإن في يديه الأموال والقوة، من مواليه وغيرهم ولكن اعملوا رأيكم في الفتك به. قالوا:
فإن هاهنا رجلا إن دخل معنا استقام لنا الأمر، ووصلنا إلى ما أردنا، وهو أيوب بن حبيب ابن أخت موسى. قال: فلقوه ودعوه إلى أنه إن قتله فهو مكانه، فقبل وبايعوه على ذلك، ثم إنهم أتوا عبد الله بن عبد الرحمن الغافقي، وكان سيد أهل الأندلس صلاحا وفضلا فأعلموه، ثم أقرأوه كتاب سليمان. فقال لهم: قد علمتم يد موسى عند جميعكم، صغيركم وكبيركم، وإنما بلغ أمير المؤمنين أمر كذب عليه فيه، والرجل لم ينزع يدا من الطاعة، ولم يخالف فيستوجب القتل وأنتم ترون وأمير المؤمنين لا يرى، فأطيعوني ودعوا هذا الأمر، فأبوا، ومضوا على رأيهم، فأجمعوا على قتله، فوقفوا له. فلما خرج لصلاة الصبح، ودخل القبلة وأحرم، وقرأ بأم القرآن الكريم، واستفتح (إذا وقعت الواقعة) ضربه حبيب بن أبي عبيدة ضربة، فدهش ولم يصنع شيئا، فقطع عبد العزيز الصلاة