قال أحمد بن سلمة: فقلت له: أخبرني غير واحد أن جل أصحابنا صاروا إلى يحيى بن يحيى فكلموه أن يكتب عبد الله بن طاهر في تخليتك، فقال يحيى: لا أكاتب السلطان. وإن كتب على لساني لم أكره حتى يكون خلاصه.
فكتب بحضرته على لسانه، فلما وصل الكتاب إلى عبد الله بن طاهر أمر بإخراجك وأصحابك.
قال: نعم.
وعن: بعضهم قال: كان محمد بن أسلم يشبه في وقته بابن المبارك.
وعن محمد بن أسلم قال: لو قدرت والله أن أتطوع حيث لا يراني ملكاي لفعلت.
وكان يدخل بيتا فيبكي، ثم إذا خرج غسل وجهه واكتحل. وكان يبعث إلى قوم بعطاء أو كسوة في الليل، ولا يعلمون) من أين هي، وقال أحمد بن سلمة: سمعت أن محمد بن أسلم مرض في بيت رجل من أهل طوس معمر، فقال له: لا تفارقني الليلة، فإن أمر الله يأتيني قبل أن أصبح. فإذا مت فلا تنتظر بي أحدا، واغسلني للوقت وجهزني واحملني إلى مقابر المسلمين. قال: ففاضت نفسه بالليل، فغسل وكفن وحمل وقت الصبح. فآتاهم صاحب الأمير طاهر بن عبد الله، وأمرهم أن يحملوه إلى مقبرة الساذياخ ليصلي عليه طاهر.
قال: فوضعت الجنازة والناس يؤذنون لصلاة الصبح، وما نادى على جنازته أحد، ولا روسل بوفاته أحد، وإذا الخلق قد تجمعوا بحيث لا يذكر مثله، فتقدم طاهر للصلاة عليه، ودفن بجنب إسحاق بن راهويه، رحمة الله عليهما.