إن عمر لما صالح أهل بيت المقدس وقدم عليه كعب الأحبار وأسلم وفرح عمر بإسلامه، قال عمر له: هل لك أن تسير معي إلى المدينة وتزور قبر النبي وتتمتع بزيارته؟ فقال لعمر: أنا أفعل ذلك، ولما قدم عمر المدينة أول ما بدأ بالمسجد وسلم على رسول الله.
ذكر ابن عساكر في تاريخه وابن الجوزي في مثير الغرام الساكن بأسانيدهم إلى محمد بن حرب الهلالي قال: دخلت المدينة، فأتيت قبر النبي صلى الله عليه و آله وسلم وزرته وسلمت بحذائه، فجاءه إعرابي فزاره، ثم قال: يا خير الرسل إن الله أنزل عليك كتابا صادقا قال فيه: * (ولو أنهم إذ ظلموا أنفسهم جاءوك فاستغفروا الله واستغفر لهم الرسول لوجدوا الله توابا رحيما) *.
وإني جئتك مستغفرا ربك ذنوبي، مستشفعا بك إلى الله ثم بكى وأنشأ يقول:
يا خير من دفنت بالقاع أعظمه * فطاب من طيبهن القاع والأكم نفسي الفداء لقبر أنت ساكنه * فيه العفاف وفيه الجود والكرم وقد ذيله أبو الطيب أحمد بن عبد العزيز بأبيات وقال:
وفيه شمس التقى والدين قد غربت * من بعدما أشرقت من نورها الظلم حاشا لوجهك أن يبلى وقد هديت * في الشرق والغرب من أنواره الأمم (1)