المدائن وخرج في الخيل واستخلف بها ابن أخيه المختار بن أبي عبيد وسار في طلبهم فأخبر عبد الله بن وهب خبره فرابأ طريقه وسار علي بغداد ولحقهم سعد بن مسعود بالكرخ في خمسمائة فارس عند المساء فانصرف إليهم عبد الله في ثلاثين فارسا فاقتتلوا ساعة وامتنع القوم منهم.
وقال أصحاب سعد لسعد ما تريد من قتال هؤلاء ولم يأتك فيهم أمر خلهم فليذهبوا واكتب إلى أمير المؤمنين فإن أمرك باتباعهم اتبعتهم وإن كفاكهم غيرك كان في ذلك عافية لك فأبي عليهم فلما جن عليهم الليل خرج عبد الله بن وهب فعبر دجلة إلى أرض جوخى وسار إلى النهروان فوصل إلى أصحابه وقد أيسوا منه وقالوا إن كان هلك ولينا الأمر زيد بن حصين أو حرقوص بن زهير.
وسار جماعة من أهل الكوفة يريدون الخوارج ليكونوا معهم فردهم أهلوهم كرها منهم القعقاع بن قيس الطائي عم الطرماح بن حكيم وعبد الله بن حكيم بن عبد الرحمن البكائي، وبلغ عليا أن سالم بن ربيعة العبسي يريد الخروج فأحضره عنده ونهاه فانتهى.
ولما خرجت الخوارج من الكوفة أتي عليا أصحابه وشيعته فبايعوه وقالوا نحن أولياء من واليت وأعداء من عاديت فشرط لهم فيه سنة رسول الله صلى الله عليه وسلم فجاءه ربيعة بن أبي شداد الخثعمي وكان شهد معه الجمل وصفين ومعه راية خثعم فقال له بايع علي كتاب الله وسنة رسول الله صلى الله عليه وسلم فقال ربيعة علي سنة أبي بكر وعمر. قال له علي ويلك لو أن أبا بكر وعمر عملا بغير كتاب الله وسنة رسول الله صلى الله عليه وسلم لم يكونا علي شيء من الحق فبايعه فنظر إليه علي