أقبلت إلى مكة، فجعلت لا أعرفه وأكره أن أسأل عنه، وأشرب من ماء زمزم، وأكون في المسجد. فمر علي بن أبي طالب، فقال: هذا رجل غريب؟ قلت: نعم. قال: انطلق إلى المنزل. فانطلقت معه، لا أسأله عن شئ، ولا يخبرني!
فلما أصبح الغد، جئت إلى المسجد لا أسأل عنه، وليس أحد يخبرني عنه بشئ. فمر بي علي، فقال: أما آن للرجل أن يعود؟ قلت: لا.
قال: ما أمرك، وما أقدمك؟ قلت: إن كتمت علي أخبرتك؟ قال: أفعل.
قلت: قد بلغنا أنه قد خرج نبي. قال: أما قد رشدت! هذا وجهي إليه، فاتبعني وادخل حيث أدخل، فإني إن رأيت أحدا أخافه عليك، قمت إلى الحائط كأني أصلح نعلي! وامض أنت.
فمضى، ومضيت معه، فدخلنا على النبي صلى الله عليه وسلم، فقلت: يا رسول الله، اعرض علي الاسلام. فعرض علي، فأسلمت مكاني. فقال لي: يا أبا ذر، اكتم هذا الامر، وارجع إلى قومك! فإذا بلغك ظهورنا، فأقبل.
فقلت: والذي بعثك بالحق، لأصرخن بها بين أظهرهم.
فجاء إلى المسجد وقريش فيه، فقال: يا معشر قريش، إني أشهد أن لا إله إلا الله، وأن محمد عبده ورسوله. فقالوا: قوموا إلى هذا الصابئ.
فقاموا، فضربت لأموت! فأدركني العباس، فأكب علي، وقال: ويلكم تقتلون رجلا من غفار، ومتجركم وممركم على غفار! فأطلقوا عني. فلما أصبحت، رجعت، فقلت مثل ما قلت بالأمس. فقالوا: قوموا إلى هذا الصابئ! فصنع بي كذلك، وأدركني العباس، فأكب علي.
فهذا أول إسلام أبي ذر.