رضي الله تعالى عنه جالس على شفير زمزم يحدث عن رسول الله صلى الله عليه وآله وبارك وسلم، فجعل لا يقول قال رسول الله صلى الله عليه وآله وبارك وسلم إلا قال رجل متلثم قريب منه قال رسول الله صلى الله عليه وآله وبارك وسلم. فقال ابن عباس رضي الله تعالى عنهما: سألتك بالله من أنت؟ قال فكشف العمامة من وجهه وقال: يا أيها الناس من عرفني فقد عرفني ومن لم يعرفني فأنا جندب بن جنادة البدري أبو ذر الغفاري، سمعت رسول الله صلى الله عليه وآله بهاتين وإلا فصمتا ورأيت بهاتين وإلا فعميتا يقول: علي قائد البررة وقاتل الكفرة منصور من نصره مخذول من خذله، أما إني صليت مع رسول الله صلى الله عليه وسلم يوما من الأيام صلاة الظهر فسأل سائل في المسجد فلم يعطه أحد، فرفع السائل يده إلى السماء وقال: اللهم اشهد أني سألت في مسجد رسول الله " ص " فلم يعطني أحد شيئا وعلي كان راكعا، فأومى بخنصره اليمنى وكان يتختم فيها، فأقبل السائل حتى أخذ الخاتم من خنصره وذلك بعين النبي " ص "، فرفع النبي رأسه عند ذلك إلى السماء وقال: اللهم إن أخي موسى سألك فقال: " رب اشرح لي صدري * ويسر لي أمري * واجعل لي وزيرا من أهلي * هارون أخي * أشدد به أزري " الآية، فأنزلت عليه قرآنا ناطقا: " سنشد عضدك بأخيك ونجعل لكما سلطانا "، اللهم وأنا محمد نبيك وصفيك، اللهم فاشرح لي صدري ويسر لي أمري واجعل لي وزيرا من أهلي عليا أشدد به ظهري.
قال أبو ذر: فوالله ما استتم رسول الله صلى الله عليه وآله الكلمة حتى نزل عليه جبرئيل من عند الله فقال: يا محمد اقرأ. قال: وما أقرأ؟ قال: اقرأ " إنما وليكم الله ورسوله والذين آمنوا الذين يقيمون الصلاة ويؤتون الزكاة وهم راكعون ".