ولما خرجت الخوارج من الكوفة عاد أصحاب علي وشيعته إليه فقالوا: نحن أولياء من واليت، وأعداء من عاديت، فشرط لهم سنة رسول الله صلى الله تعالى عليه وسلم، فجاء ربيعة بن أبي شداد الخثعمي فقال: أبايع على سنة أبي بكر وعمر. قال علي: ويلك لو أن أبا بكر وعمر عملا بغير كتاب الله وسنة رسوله لم يكونا على بينة من الحق. فبايعه ونظر إليه علي فقال: ما والله لكأني بك وقد نفرت مع هذه الخوارج فقتلت، كأني بك وقد وطأتك الخيل بحوافرها. فكان ذلك وقتل يوم النهروان مع الخوارج.
وأما خوارج البصرة فإنهم اجتمعوا في خمسمائة رجل، وجعلوا عليهم مسعر ابن فدكي التميمي وعلم بهم ابن عباس فأتبعهم أبا الأسود الدؤلي ولحقهم بالجسر الأكبر فتوافقوا أمر التحكيم وخدع عمرو بن العاص أبا موسى الأشعري، وصرح عمرو بولاية معاوية بعد أن عزل أبو موسى عليا، خدعه عمرو بذلك فهرب أبو موسى إلى مكة، قام علي في الكوفة فخطبهم وقال في خطبته:
الحمد لله وإن أتى الدهر بالخطب الفادح، والحدثان الجليل. وشهد أن لا إله إلا الله وأن محمدا رسول الله. أما بعد: فإن المعصية تورث الحسرة، وتعقب الندم، وقد كنت أمرتكم في هذين الرجلين، يعني أبا موسى وعمرو بن العاص وفي هذه الحكومة أمري، ونحلتكم رأيي لو كان لقصير رأي ولكن أبيتم إلا ما أردتم فكنت أنا وأنتم كما قال أخو هوزان:
أمرتهم أمري بمنعرج اللوى * فلم يستبينوا الرشد إلا ضحى الغد إلا أن هذين الرجلين اللذين اخترتموهما حكمين قد نبذا حكم القرآن وراء ظهورهما، وأحييا ما أمات القرآن، واتبع كل واحد منهما هواه، بغير هدى من الله، فحكما بغير حجة بينة، ولا سنة قاضية، واختلفا في حكمهما، وكلاهما لم يرشد، فبرئ الله منهما ورسوله وصالح المؤمنين، فاستعدوا وتأهبوا للمسير إلى الشام.