وقد روي أنه بعدما تزوج بأم الفضل في بغداد أقام وقتا، ثم أنه صلوات الله عليه عزم على الرجوع إلى المدينة، فلما توجه (ع) من بغداد منصرفا من عند المأمون ومعه أم الفضل قاصدا إلى المدينة، صار إلى شارع باب الكوفة ومعه الناس يشيعونه، فانتهى إلى دار المسيب عند مغيب الشمس، فنزل ودخل المسجد وكان في صحن المسجد نبقة صغيرة لم تحمل قبل، فدعا بكوز فيه ماء فتوضأ في أصل النبقة وقام (ع) بالناس صلاة المغرب، فقرأ في الأولى الفاتحة وإذا جاء نصر الله والفتح، وقرأ في الثانية الحمد وقل هو الله أحد، وقنت قبل ركوعه منها وتشهد، وقام للثالثة وتشهد وسلم، ثم جلس هنيئة وذكر الله عز وجل وقام من غير تعقيب، وصلى النوافل أربع ركعات وعقب بعدها وسجد سجدتي الشكر ثم خرج (ع)، فلما وصل النبقة هزها فرآها الناس قد حملت حملا حسنا فتعجبوا من ذلك فأكلوا فوجدوه نبقا حلوا لا عجم له وودعوه ومضى (ع) من ساعته إلى المدينة، فلم يزل بها حتى أشخصه المعتصم في سنة خمسة وعشرين ومائتين إلى بغداد، وهي المرة الثانية لأنه خرج قبلها وقد ذكرناها في المقدمة برواية إسماعيل بن مهران وهي التي بكى له عند خروجه وسؤاله عنها من الذي يلي الأمور بعده، فهناك ودعه ورفاقه وسار الإمام (ع) إلى أن وصل إلى بغداد ومعه أم الفضل، فأقام هناك والمعتصم يبتغي له الغوائل وينصب له الحبائل، وهو (ع) عالم يؤول الامر إليه وما يجري من سمه وشهادته على يديه، ولله دره من شهيد قد شهد الله له بالمرتبة العليا، حيث تبوأ مقام آبائه (ع)، وقدم على ما قدموا عليه ولم يتولد له من الذكور سوى أبي الحسن علي الهادي (ع).
وكان السبب في شهادته (ع) ما روي عن ابن أرومة قال: إن المعتصم جمع جماعة من خواصه ووزرائه فقال: اشهدوا على محمد الجواد شهادة واكتبوا كتابا أنه يريد أن يخرج علي، ففعلوا ذلك ثم دعاه فقال له: إنك أردت أن تخرج علي فقال (ع): والله ما فعلت شيئا من ذلك، فقال: إن فلانا وفلانا