انتقل إلى البصرة فقال فيه عمر القصير: يا أمير المؤمنين إن هذا يسكر وذكر كلاما ضحك منه المهدي وكان الذي يسعى على أبي شيبة: علي بن عاصم وكان أبو شيبة قبل ذلك وفد على المهدي ومعه جماعة فيهم محمد بن يزيد الواسطي وغيره فزاده المهدي في أرزاقه وأجازه فذكر الذين معه فقال المهدي له: سمهم فأبى فصاروا له عداء وذموه فلما كان بعد ذلك من أمر صالح بن داود أخي يعقوب بن داود ما كان بواسط لقيه علي بن عاصم ومعه جماعة فيهم محمد بن يزيد قدمه علي بن عاصم قال هؤلاء يجزونك عنه فقال أفيكم هشيم قالوا لا قال له علي بن عاصم هؤلاء فوق هشيم فكتب قولهم ودفع ذلك فوجه المهدي رجلان يسألان عنه فكتب حسن بن علي بن عاصم إلى أبيه يخبره بأنه قد فارقهما على لقائه والقول عنه؛ فجعل علي بن عاصم يرسل إليهما من يذمه فانصرف بذلك فكتب في أشخاصه وشخص معه قوم يمدحونه وقوم يذمونه فعزله المهدي وقال لا نستبعد هذا الشيخ فولاه قضاء القضاة.
وكانت أرزاق أبو شيبة في كل شهر مائة وخمسين درهما ثلاثين لكتابه وأعوانه ثم ولاه المهدي فصارت ثلاثمائة ثم صارت بعد ذلك أربعمائة وثمانين حتى ولى سيف بن جابر.
أبو شيبة وابن أبي ليلى وابن شبرمة أخبرني أحمد بن أبي خيثمة عن أبن أبي شيخ قال: حدثنا أبو سفيان الحميري عن أبيه قال كتب معي أبو شيبة كتابا إلى ابن أبي ليلى وكتابا إلى ابن شبرمة فلقيت ابن أبي ليلى على باب عيسى بن موسى فدفعت إليه الكتاب فلم يقبله فقلت ليس هو في الحكم إنما هو وصلك به قال لا أقبله إلا في مجلس الحكم وأتيت ابن شبرمة فرأيت رجلا عربيا