وأتى الوجوه عبد الله بن الجارود فصوبوا رأيه وقوله، وقال الهذيل بن عمران البرجمي وعبد الله بن حكيم بن زياد المجاشعي وغيرهما: نحن معك وأعوانك إن هذا الرجل غير كاف حتى ينقصنا هذه الزيادة فهلم نبايعك على إخراجه من العراق ثم نكتب إلى عبد الملك نسأله أن يولي علينا غيره فإن أبى خلعناه فإنه هائب لنا ما دامت الخوارج فبايعه الناس سرا وأعطوه المواثيق على الوفاء وأخذ بعضهم على بعضهم العهود.
وبلغ الحجاج ما هم فيه فأحرز بيت المال واحتاط فيه فلما تم لهم أمرهم أظهروه وذلك في ربيع الآخر سنة ست وسبعين وأخرج عبد الله بن الجارود عبد القيس على راياتهم وخرج الناس معه حتى لقي الحجاج وليس معه مالا خاصته وأهل بيته فخرجوا قبل الظهر وقطع ابن جارود ومن معه الجسر وكانت خزائن الحجاج السلاح من ورائه فأرسل الحجاج أعين صاحب حمام أعين بالكوفة إلى ابن الجارود يستدعيه إليه فقال ابن الجارود ومن الأمير لا ولا كرامة لابن أبي رغال ولكن ليخرج عنا مذموما مدحورا وإلا قاتلناه فقال أعين فإنه يقول لك أتطيب نفسا بقتلك وقتل أهل بيتك وعشيرتك والذي نفسي بيده لئن لم تأتني لأدعن قومك عامة وأهلك خاصة حديثا للغابرين وكان الحجاج عقد حمل أعين هذه الرسالة فقال ابن الجارود لولا أنك رسول لقتلتك يا ابن الخبيثة وأمر فوجئ في عنقه وأخرج.
واجتمع الناس لابن الجارود فأقبل بهم زحفا نحو الحجاج وكان رأيهم أن يخرجوه عنهم ولا يقاتلوه فلما صاروا إليه نهبوه في فسطاطة وأخذوا ما قدروا عليه من متاعه ودوابه، وجاء أهل اليمن فأخذوا امرأته ابنة النعمان بن بشير وجاءت مضر فأخذوا امرأته الأخرى أم سلمة بنت عبد الرحمن