وقال صالح بن محمد الحافظ جزرة: أعلم من أدركت بالحديث وعلله علي بن المديني، وأعلمهم بتصحيف المشايخ يحيى بن معين، وأحفظهم عند المذاكرة أبو بكر بن أبي شيبة.
قال الحافظ أبو العباس بن عقدة: سمعت عبد الرحمن بن خراش، يقول: سمعت أبا زرعة، يقول، ما رأيت أحفظ من أبي بكر بن أبي شيبة فقلت: يا أبا زرعة، فأصحابنا البغداديون؟ قال: دع أصحابك، فإنهم أصحاب مخاريق، ما رأيت أحفظ من أبي بكر بن أبي شيبة.
قال الخطيب: كان أبو بكر متقنا حافظا، صنف " المسند " و " الاحكام " و " التفسير "، وحدث ببغداد هو وأخواه القاسم وعثمان.
قال إبراهيم نفطويه: في سنة أربع وثلاثين ومئتين أشخص المتوكل الفقهاء والمحدثين، فكان فيهم مصعب بن عبد الله الزبيري، وإسحاق بن أبي إسرائيل، وإبراهيم بن عبد الله الهروي، وأبو بكر وعثمان ابنا أبي شيبة، وكانا من الحفاظ. فقسمت بينهم الجوائز، وأمرهم المتوكل أن يحدثوا بالأحاديث التي فيها الرد على المعتزلة والجهمية، قال: فجلس عثمان في مدينة المنصور، واجتمع عليه نحو من ثلاثين ألفا، وجلس أبو بكر في مسجد الرصافة، وكان أشد تقدما من أخيه، اجتمع عليه نحو من ثلاثين ألفا.
قلت: وكان أبو بكر بن قوي النفس بحيث إنه استنكر حديثا تفرد به يحيى ابن معين، عن حفص بن غياث، فقال: من أين له هذا؟ فهذه كتب حفص، ما فيها هذا الحديث.
أخبرنا أبو الفضل أحمد بن هبة الله بن أحمد الدمشقي قراءة عليه غير مرة، أنبأنا عبد المعز بن محمد الهروي، أخبرنا زاهر بن طاهر سنة سبع