فقيل له هو مغمور فقال: استأذنوا لي فإن أذن فذاك وكان لنصيب ناحية من عبد العزيز فأذن له فلما رأى شدة مرضه قال:
* ونعود سيدنا وسيد غيرنا * لبت النشكي كان بالعواد * * لو كان يقبل فدية لفديته * بالمصطفى من طارفي وتلادي * فلما سمع عبد العزيز قوله فتح عينيه وأمر له بألف دينار واستبشر بذلك آل عبد العزيز وفرحوا به ثم مات وكانت وفاته فيما ذكر بن بكير عن الليث ليلة الاثنين لاثنتي عشرة خلت من جمادى الأولى سنة ست وثمانين.
رثاء الفرزدق لعبد العزيز وفي ذلك يقول الفرزدق:
* يا أيها المتمني أن تكون فتى * مثل ابن ليلى فقد خلا لك السبلا * * اذكر ثلاث خصال قد عرفن له * هل سب من أحد أو سب أو بخلا * * لو يضرب الناس أقصاهم وأولهم * في شفة الأرض حتى يحزموا الإبلا * * يبغون أفضل أهل الأرض لم يجدوا * مثل الذي غيروا في لحده رجلا * فلما توفي عبد العزيز أمر عبد الملك على مصر عمر بن مروان قال: فأقام شهرا إلا ليلة ثم صرف وولى عبد الله بن عبد الملك وهو صاحب مسجد عبد الله الذي بفسطاط مصر وإليه ينسب فأراد عزل بن خديج فاستحيي أن يعزله من غير شيء ولم يجد عليه مقالا ولا متعلقا فولاه مرابطة الإسكندرية.
تولية عمران ثم عزله وحبسه وولى القضاء والشرطة عمران بن عبد الرحمن بن شرحبيل بن حسنة فلم يزل على ذلك إلا سنة تسع وثمانين فغضب عليه عبد الله بن عبد الملك في شيء لم يسلم لنا فحبسه في بيت وأمر أن يقطع له ثوب من قراطيس ويكتب فيه عيوبه ثم يلبسه ويوقف للناس حتى يرجع من مخرجه.