ولما أسلم مع قومه رجع قومه إلى بلادهم وقدم هو الكوفة فأقام بها إلى أن مات فدفن في صحراء بني جعفر بن كلاب. ويقال: إن وفاته كانت في أول مدة معاوية رضي الله عنه ومات وهو ابن مائة وسبع وخمسين سنة. انتهى.
وقال في الاستيعاب: قد قيل: إنه مات بالكوفة أيام الوليد بن عقبة في خلافة عثمان وهو أصح. فبعث الوليد إلى منزله عشرين جزورا فنحرت عنه.
ثم قال ابن قتيبة: ولم يقل شعرا في الإسلام إلا بيتا واحدا قال أبو اليقظان وهو قوله: وقال غيره: بل هو قوله: (الكامل) * ما عاتب المرء الكريم كنفسه * والمرء يصلحه الجليس الصالح * وكتب عمر بن الخطاب إلى عامله المغيرة بن شعبة بالكوفة: أن استنشد من عندك من شعراء مصرك ما قالوه في الإسلام. فأرسل إلى الأغلب العجلي أن أنشدني فقال:
* لقد طلبت هينا موجودا * أرجزا تريد أم قصيدا * ثم أرسل إلى لبيد: أن أنشدني فقال: إن شئت ما عفي عنه يعني الجاهلية قال: لا ما قلت في الإسلام. فانطلق إلى بيته فكتب سورة البقرة في صحيفة ثم أتى بها فقال: أبدلني الله هذه في الإسلام مكان الشعر. فكتب بذلك المغيرة إلى عمر فنقص من عطاء الأغلب خمسمائة وزادها في عطاء لبيد فكان عطاؤه ألفين