يقاد به ووعدهم ليوم، وأمر بالقاتل فحبس، فلما كان في اليوم الذي وعدهم حضر أولياء الذمي وجئ بالمسلم القاتل، فلما هم أبو يوسف أن يقول أقيدوه، رأى رقعة قد سقطت، فتناولها صاحب الرقاع وخنسها، فقال له أبو يوسف ما هذه التي خنستها؟ فدفعها إليه فإذا فيها أبيات شعر، قالها أبو المضرجي شاعر ببغداد:
يا قاتل المسلم بالكافر * جرت وما العادل كالجائر؟
يا من ببغداد وأطرافها * من فقهاء الناس أو شاعر جار على الدين أبو يوسف * إذ يقتل المسلم بالكافر فاسترجعوا وابكوا على دينكم * واصطبروا فالأجر للصابر قال: فأمر بالقمطر فشد وركب إلى الرشيد فحدثه بالقصة وأقرأه الرقعة. فقال له الرشيد: اذهب فاحتل، فلما عاد أبو يوسف إلى داره وجاءه أولياء الذمي يطالبونه بالقود. قال لهم: ائتوني بشاهدين عدلين أن صاحبكم كان يؤدي الجزية.
أخبرني محمد بن أحمد بن يعقوب قال: أخبرنا محمد بن نعيم الضبي، حدثنا أبو منصور محمد بن القاسم العتكي، حدثنا أحمد بن حفص بن عمر الفقيه - بجرجان - حدثنا علي بن سلمة اللبقي، حدثنا يحيى بن يحيى قال: سمعت أبا يوسف القاضي عند وفاته يقول: كل ما أفتيت به فقد رجعت عنه، إلا ما وافق كتاب الله وسنة رسول الله صلى الله عليه وسلم.
أخبرنا التنوخي، أخبرنا طلحة بن محمد بن جعفر، حدثني مكرم بن أحمد، حدثنا أحمد بن عطية قال: سمعت محمد بن سماعة يقول: سمعت أبا يوسف في اليوم الذي مات فيه يقول: اللهم إنك تعلم أني لم أجر في حكم حكمت به بين عبادك متعمدا. ولقد اجتهدت في الحكم بما وافق كتابك وسنة نبيك، وكل ما أشكل على جعلت أبا حنيفة بيني وبينك، وكان عندي والله ممن يعرف أمرك ولا يخرج عن الحق وهو يعلمه.
أخبرني الخلال، أخبرنا علي بن عمرو أن علي بن محمد النخعي حدثهم قال:
حدثنا إبراهيم بن إسحاق الزهري، حدثنا بشر بن الوليد الكندي قال: سمعت أبا يوسف يقول في مرضه الذي مات فيه: ((اللهم انك تعلم أني لم أطا فرجا حراما قط وأنا أعلم، اللهم انك تعلم أني لم آكل درهما حراما قط وأنا أعلم.