وقال أيضا في ديوانه:
أقول لصحب ضمت الكاس شملهم واداي صبابات الهوى يترنم خذوا من نصيب من نعيم ولذة فكل وإن طال المدى يتصرم فهو في هذين البيتين يدعو إلى لذة الدنيا ونعيمها وينكر الآخرة، ومن شعره ما نقله أبو فرج ابن الجوزي في كتابه (الرد على المتعصب العنيد المانع عن يزيد لعنه الله) وهو:
علية هاتي وناولي وترنمي حديثك إني لا أحب التناجيا فإن الذي حدثت عن يوم بعثنا أحاديث زور تترك القلب ساهيا ومن كفرياته:
يا معشر الندمان قوموا وأسمعوا صوت الأغاني و اشربوا كأس مدام وأتركوا ذكر المثاني شغلتني نغمة العيدان عن صوت الأذان و تعوضت عن الحور عجوزا في الدنان و من الدلائل على كفر يزيد وارتداده: أشعاره الإلحادية وكفرياته التي أنشدها بعد مقتل السبط الشهيد سيد شباب أهل الجنة الحسين عليه السلام. فقد ذكر سبط ابن الجوزي في كتابه التذكرة - 148 قال: لما جاوؤا أهل البيت إلى الشام سبايا، كان يزيد جالسا في قصره، مشرفا على محلة جيرون فأنشد قائلا:
لما بدت الرؤوس وأشرقت تلك الشموس على ربى جيرون نعب الغراب فقلت نح أو لا تنح فلقد قضيت من النبي ديوني