وعندما أراد أخذ البيعة من أهل الشام، خطب فيهم وسألهم عن رأيهم فيمن يخلفه، فقالوا: رضينا بعبد الرحمن بن خالد بن الوليد، فشق ذلك عليه وأسرها في نفسه. ومرة ألم بعبد الرحمن مرضا "، فأرسل إليه معاوية طبيبه الخاص وكان يهوديا " - وقيل هو ابن رثال النصراني - وسقاه بأمر من الخليفة سقية قتله بها (1).
وبالنسبة لبيعة أهل العراق، فقد تكفل بها كل من المغيرة بن شعبة والي الكوفة، وزياد بن عبيد الله والي البصرة. ثم ارتحل معاوية إلى الحجاز ومعه ألف فارس لأخذ البيعة من أهل مكة والمدينة بعد أن استعصى أمرهم على ولاته. وكان من كبار المسلمين الذين أبوا البيعة هناك: الحسين بن علي، وعبد الله بن الزبير، وعبد الله بن عمر، وعبد الرحمن بن أبي بكر. فاجتمعوا في الحرم وقال المعارضون كلمتهم، فقام معاوية خطيبا " وقد جعل على رأس كل من الأربعة رجلين بسيفيهما فإن تكلم أحدهم بكلمة يرد بها عليه قتلاه، وقال: (إن هؤلاء الرهط سادة المسلمين وخيارهم وإنهم قد رضوا وبايعوا ليزيد، فبايعوا على اسم الله) فبايع الناس (2).