بحمله إلى المدينة على قتب بلا وطاء، وفخذاه تسيلان دما فلما دخل المدينة جرى بينه وبين عثمان ما جرى، ثم نفاه من المدينة عن حرم الله وحرم رسوله، وأخرجه إلى الربذة وأقام بها حتى مات فقرا وجوعا وضرا وصبرا.
ولما نزل بالربذة مات بها ولده فوقف على قبره، وقال رحمك الله يا بني لقد كنت كريم الخلق بارا بالوالدين، وما علي في موتك من غضاضة، وما بي إلى غير الله من حاجة وقد شغلني الاهتمام لك عن الاعتماد بك ثم قال: اللهم إنك فرضت عليه لي حقوقا فأني قد وهبت له ما فرضت عليه من حقوقي، فهب له ما فرضت عليه من حقوقك فإنك أولى بالحق والكرم مني هذا وقوف أبي ذر على قبر ولده وكلماته فيه، وأحرق من هذا وقوف الحسين (ع) على رأس ولده علي الأكبر (ع) وكلماته الخ.
فلما حضرته الوفاة دخل عليه قوم من أهل الربذة يعودونه فقالوا له: ما تشتكي؟
قال: ذنوبي قالوا: فما تشتهي؟ قال رحمة الله قالوا: فهل لك بطبيب؟ قال: الطبيب أمرضني. قال لامرأته: اذبحي شاة من غنمك واصنعيها فإذا نضجت فاقعدي على قارعة الطريق فأول ركب ترينهم قولي يا عباد الله الصالحين هذا أبو ذر صاحب رسول الله قد قضى نحبه ولقي ربه، فأعينوني عليه فأجيبوه قال رسول الله (ص): أخبرني أني أموت في أرض غربة، وأنه يلي غسلي ودفني والصلاة علي رجال من أمته صالحون.
عن محمد ابن علقمة قال: خرجت في رهط أريد الحج منهم مالك بن الحرث الأشتر فلما قدمنا الربذة إذا بامرأة على قارعة الطريق تقول: يا عباد الله المسلمين، هذا أبو ذر صاحب رسول الله قد هلك غريبا، ليس لي أحد يعينني عليه. قال: فاسترجعنا لعظم المصيبة، ثم أقبلنا معها فجهزناه، وتنافسنا في كفنه، ثم قدمنا مالك بن الحرث الأشتر فصلى بنا عليه ثم دفناه، وقام الأشتر على قبره وقال: اللهم إن هذا أبو ذر صاحب رسولك، عبدك في العابدين، وجاهد فيك المشركين، لم يغير ولم يبدل، لكنه رأى منكر فغيره بلسانه وقلبه، حتى حفي ونفي، وحرم واحتقر، ثم مات غريبا وحيدا اللهم فاقصم من حرمه ونفاه من حرمك وحرم رسولك. فرفعنا أيدينا جميعا وقلنا آمين.
كان أبو ذر من أصحاب رسول الله صلى الله عليه وآله وسلم، ولقد جفوة ونفوه وأخرجوه عن حرم الله وحرم رسوله (ص) ولقد جفوة من هو أعز من أبي ذر ونفوه وأخرجوه عن حرم الله وحرم رسول الله (ص)، وهو ريحانة رسول الله (ص) حيث جمع أهل بيته حوله