مات بأرض الروم قدس الله روحه ودفنه هناك ابنه أبو عبيد وعند موته قال له * أبا عبيد رفع الكتاب * واقترب الموعد والحساب * في ابيات قال محمد بن سلام قال أبو عمرو وسئل حسان بن ثابت من أشعر الناس فقال حيا أم رجلا قالوا حيا قال هذيل أشعر الناس حيا قال محمد بن سلام وأقول إن أشعر هذيل أبو ذؤيب وقال عمر بن شبة تقدم أبو ذؤيب على جميع شعراء هذيل بقصيدته العينية التي يرثي فيها بنيه وقال الأصمعي أبرع بيت قالته العرب بيت أبو ذؤيب * والنفس راغبة إذا رغبتها * وإذا ترد إلى قليل تقنع * وهذا البيت من شعره المفضل الذي يرثي فيه بنيه وكانوا خمسة أصيبوا في عام واحد وفيه حكم وشواهد وله حيث يقول * أمن المنون وربيها تتوجع * والدهر ليس بمعتب من يجزع * * قالت أمامة ما لجسمك شاحبا * منذ ابتذلت ومثل مالك ينفع * * أم ما لجنبك لا يلائم مضجعا * إلا أقض عليك ذاك المضجع * * فأجبتها أن ما بجسمي أنه * أودى بني من البلاد فودعوا * * أودى بني فأعقبوني حسرة * بعد الرقاد وعبرة لا تقلع * * فالعين بعدهم كأن حداقها * كحلت بشوك فهي عوري تدمع *