وكان بحرا من بحور العلم، وبه يضرب المثل في قوة الحفظ، حدث عنه الشيخان وأبو داود وابن ماجة. وروى النسائي عن أصحابه، ولا شئ له في جامع أبي عيسى، وروى عنه أيضا: محمد بن سعد الكاتب ومحمد بن يحيى وأحمد بن حنبل، وأبو زرعة وأبو بكر بن أبي عاصم وبقي بن مخلد ومحمد ابن وضاح محدثا الأندلس والحسن بن سفيان وأبو يعلى الموصلي.. وأمم سواهم.
قال يحيى بن عبد الحميد الحماني: أولاد ابن أبي شيبة: من أهل العلم كانوا يزاحمونا عند كل محدث. وقال أحمد بن حنبل: أبو بكر صدوق وهو أحب إلي من أخيه عثمان. وقال أحمد بن عبد الله العجلي: كان أبو بكر ثقة حافظا للحديث، وقال عمرو بن علي الفلاس: ما رأيت أحدا أحفظ من أبي بكر ابن أبي شيبة قدم علينا مع علي بن المديني، فسرد الشيباني أربع مائة حديث حفظا وقام وقال الإمام أبو عبد الله: انتهى الحديث إلى أربعة وأبو بكر بن أبي شيبة أسدهم له، وأحمد بن حنبل أفقههم فيه، ويحيى بن معين أجمعهم له، وعلي بن المديني أعلمهم به. قال محمد بن عمرو بن العلاء الجرجاني: سمعت أبا بكر بن أبي شيبة وأنا معه في جبانة كندة، فقلت له: يا أبا بكر سمعت من شريك وأنت ابن كم؟ قال: وأنا ابن أربع عشرة سنة، وأنا يومئذ أحفظ للحديث مني اليوم. قلت: صدقت والله وأين حفظ المراهق من حفظ من هو في عشر الثمانين. قال الجرجاني: فسألت يحيى بن معين عن سماع أبي بكر ابن أبي شيبة من شريك، فقال: أبو بكر عندنا صدوق وما يحمله على أن يقول وجدت في كتاب أبي بخطه. وقال: وحدث عن روح بن عبادة بحديث الرجال وكنا نظنه سمعه من أبي هشام الرفاعي. قال عبدان الأهوازي: كان أبو بكر يقعد إلى الأسطوانة وأخوه ومشكدانة وعبد الله بن البراد وغيرهم سكوت إلا أبو بكر