وطبع جميع هذه الكتب غير غريب الحديث الذي وقف أبو عبيد حياته في جمعه وترتيبه مدة عمره ولذلك اهتمت دائرة المعارف بطبع موسوعة عظيمة هذه لأول مرة.
وكان أبو عبيد إذا ألف كتاب أهداه إلى عبد الله بن طاهر، فيحمل إليه مالا جزيلا استحسانا لذلك، فلما صنف غريب الحديث أهداه إليه كعادته، فقال ابن طاهر، إن عقلا بعث صاحبه على عمل هذا الكتاب لحقيق إلا يحوج إلى طلب معاش، وأجرى له في كل شهر عشرة آلاف درهم.
وسمعه منه يحيى بن معين: وكان دينا ورعا جوادا، ويروى عن ورعه حكاية نادرة فقيل إنما سير أبو دلف القاسم بن عيسى إلى عبد الله بن طاهر يستهدى منه أبا عبيد مدة شهرين فأنفذه، فلما أراد الانصراف وصله أبو دلف بثلاثين ألف درهم فلم يقبلها وقال: أنا في جنبه رجل لا يحوجني إلى غير فلما عاد أمر له ابن طاهر بثلاثين ألف دينار، فاشتهري بها سلاحا وجعله للثغر، وخرج إلى مكة مجاورا في سنة أربع عشرة مائتين فأقام بها إلى أن مات في سنة 224 ه‍.
وقال أبو عبيد: مكثت في تصنيف هذا الكتاب أربعين سنة، وربما كنت أستفيد الفائدة من أفواه الرجال فأضعها في موضعها من الكتاب، فأبيت ساهرا فرحا منى بتلك الفائدة، (الوفيات 3 / 225)، فيظهر من هذه الرواية أن أبا عبيد كان يجل أمر الحديث ويعظمه إلى حد أنه كان يعد جمع الحديث ونوادره من العبادات ولذلك جعله من أعظم أشاغله العلمية، ويؤيد قولنا هذا ما ورد عن اهتمامه بغريب الحديث.