بغداد لك بمنزل (فارحل من وقتك قبل ان يشتد عليك الطلب إلى واسط) فانحدر إلى واسط، وقد شد وسطه للوهن الذي أصاب فقار ظهره، فلما صار بواسط مات رحمة الله عليه.
قال علي بن محمد الأزدي: فحدثني ابنه علي بن محمد بن القاسم الصوفي: انه لما صار إلى واسط عبر بها دجلة إلى الجانب الغربي، فنزل إلى أم ابن عمه علي بن الحسن بن علي بن عمر بن علي بن الحسين، وكانت عجوزا مقعدة، فلما نظرت إليه وثبت فرحا به وقالت: محمد والله، فدتك نفسي وأهلي، الحمد لله على سلامتك، فقامت على رجلها، وما قامت قبل ذلك بسنين، فأقام عندها مديدة، ومرضته من الوهن الذي أصاب ظهره حتى مات بواسط.
وذكر أحمد بن الحرث الخزاز: ان محمد بن القاسم لما هرب عبر من الجانب الغربي، فلما حصل في دجلة نظر فإذا معه في المعبر شيخ من الرجالة الموكلين به، كان محمد يراه من خلف الباب فعرفه محمد ولم يعرفه الشيخ، فلما أراد الخروج قال له الملاح: اعطني أجري، فحلف له ما معي شئ، ولا يملك غير الجبة الصوف التي عليه، فرق له الشيخ الموكل فأعطى الملاح اجرته من عنده.
قال احمد: وتوارى محمد بن القاسم أيام المعتصم، وأيام الواثق، ثم اخذ في أيام المتوكل، فحمل إليه فحبس حتى مات في محبسه. قال: ويقال انه دس إليه سما فمات منه.
حدثني أحمد بن سعيد، قال: حدثني عبيد بن حمدون، قال: سمعت عباد ابن يعقوب، يقول: كنت انا ويحيى بن الحسن بن الفرات الفراز، مع محمد بن القاسم في زورق نريد الرقة، ومعنا جماعة من أهل هذه الطبقة، فظهرنا من مذهبه إلى أنه يقول بالاعتزال، فخرجنا وتركناه، فجعل يبكي ويسألنا الرجوع فلم نفعل.