ثم قال إذا جاءك الذين يدفنونني فإنه سيشهدني قوم صالحون فقولي لهم يقسم عليكم أبو ذر أن لا تركبوا حتى تأكلوا. فلما نضجت قدرها قال لها انظري هل ترين أحد قالت نعم هؤلاء ركب مقبلون قال استقبلي بي الكعبة ففعلت فقال بسم الله وبالله وعلي ملة رسول الله صلى الله عليه وسلم ثم مات فخرجت ابنته فتلقتهم وقالت رحمكم الله اشهدوا أبا ذر قالوا وأين هو فأشارت إليه قالوا نعم ونعمة عين لقد أكرمنا الله بذلك وكان فيهم ابن مسعود وقال صدق رسول الله صلى الله عليه وسلم يموت وحده ويبعث وحده. فغسلوه وكفنوه وصلوا عليه ودفنوه وقالت لهم ابنته إن أبا ذر يقرأ عليكم السلام وأقسم عليكم أن لا تركبوا حتى تأكلوا؛ ففعلوا وحملوا أهله معهم حتى أقدموهم مكة ونعوه إلى عثمان فضم ابنته إلى عياله وقال يرحم الله أبا ذر ويغفر له نزوله الربذة.
ولما حضروا شموا من الخباء ريح مسك فسألوها عنه فقالت إنه لما حضر قال إن الميت يحضره شهود يجدون الريح لا يأكلون فدوفي لهم مسكا بماء ورش به الخباء.
وكان النفر الذين شهدوه ابن مسعود وأبا مفرز وبكر بن عبد الله التميميين والأسود بن يزيد وعلقمة بن قيس ومالك الأشتر النخعيين والحلحال الضبي والحارث بن سويد التميمي وعمرو بن عتبة السلمي وابن ربيعة السلمي وأبا رافع المزني وسويد بن شعبة التميمي ويزيد بن معاوية النخعي وأخا القرثع الضبي وأخا معضد الشيباني. وقيل كان موته إحدى وثلاثين.
وقيل إن ابن مسعود لم يحمل أهل أبي ذر معه إنما تركهم حتى قدم على عثمان بمكة فأعلمه بموته فجعل عثمان طريقه عليهم فحملهم معه.