فتزود وحمل شنة له فيها ماء، حتى قدم مكة، فأتى المسجد، فالتمس النبي (صلى الله عليه وآله) وهو لا يعرفه، وكره أن يسأل عنه حتى أدركه الليل فاضطجع، فرآه علي بن أبي طالب (عليه السلام) فقال: كأن الرجل غريب.
قال: نعم.
قال: انطلق إلى المنزل.
قال أبو ذر: فانطلقت معه، لا يسألني عن شئ ولا أسأله. فلما أصبحت من الغد، رجعت إلى المسجد، فبقيت يومي حتى أمسيت، وسرت إلى مضجعي. فمر بي علي، فقال: أما آن للرجل أن يعرف منزله؟
فأقامه، وذهب به معه، وما يسأل واحد منهما صاحبه.
حتى إذا كان اليوم الثالث، فعل مثل ذلك، فأقامه علي معه.
ثم قال له علي (عليه السلام): ألا تحدثني ما الذي أقدمك هذا البلد؟