فبعد وفاة يزيد بن معاوية بخمسة أشهر وبضعة أيام خرج في الطريق إلى الكوفة وحتى انتهى إلى بحر الحيرة فنزل فاغتسل فيه وادهن دهنا يسيرا ولبس ثيابه واعتم وتقلد سيفه. ثم ركب راحله فمر بمسجد السكون وجبانة كندة لا يمر بمجلس إلا سلم على أهله وقال: أبشروا بالنصر والفلج أتاكم ما تحبون (الطبري 2 / 532) وظل يسير في شوارع الكوفة وفي المسجد وهو يقول نفس الكلام: أبشروا بالنصر واليسر والفلج وكان يصحبه اثنان من بني كندة. وكان الوقت وقت صلاة الجمعة في يوم الجمعة 15 رمضان سنة 15 رمضان سنة 64 ه‍ (6 مايو سنة 684) فصلى مع الناس ثم ركن إلى سارية مدة طويلة وصلى ما بين الجمعة والعصر فلما صلى العصر مع الناس انصرف.
كان ينوي أن يتزعم الشيعة ولكنه لم يستطع أن ينال هذه الزعامة من سليمان بن صرد رغم ما صادفه من بعض النجاح. ولكنه تخلص من سليمان بما وقع لهذا الأخير في حملته المشئومة ضد أهل الشام هنالك استطاع أن يرث زعامته وهو مرتاح الضمير لأنه طالما حذر من القيام بتلك المغامرة وتنبأ بالمصير السئ الذي آلت إليه وراح في خطبه يعلن مقدما هذا الاخفاق. فأخذ يمسك بزمام الامر بيد قوية وأراد أولا أن يبدأ بامتلاك ناصية الكوفة فوجه الشيعة في هذا الاتجاه هنالك شعر الاشراف بأن ثمت خطرا يتهددهم فلفتوا نطر الوالي عبد الله بن يزيد إلى حركات هذا الرجل الخطير. فأودع السجن وكان ذلك قبل معركة عين الوردة ومن سجنه كتب إلى أولئك الذين نجوا من الهزيمة يقول: لم يكن سليمان الزعيم الحق بل أنا أنا أنا! وأرادوا إنقاذه من السجن فقال لهم: لا داعي لذلك لأنه سيخرج منه قريبا. والواقع أنه أطلق سراحه بشفاعة صهره عبد الله بن عمر ولكن بعد أن أخذ على نفسه ميثاقا غليظا وذلك بأن حلفه عبد الله بن يزيد وإبراهيم ابن محمد بن طلحة (ألا يبغيهما غائلة ولا يخرج عليهما ما كان لهما سلطان فإن هو فعل فعليه ألف بدنة ينحرها لدى رتاج الكعبة ومماليكه كلهم: ذكرهم وأنثاهم - أحرار وعبيدا. فحلف لهما بذلك ثم خرج فجاء داره فنزلها) (الطبري 2 / 600). ولكنه راح يسخر من هذا الحلف قائلا إنه يفضل أن يدفع هذه الكفارة وأن يضحي بكل ما يملك على أن يتخلى عن طلب السلطان على أنه لم يحتج حتى إلى الحنث في يمينه إذ قدم الكوفة في يوم الخميس 24 رمضان سنة 65 ه‍