على قدميه حافيا ما عليه إلا خيشة، وما معه إلا ركوة وجراب، حتى قدم مكة وقضى حجه وأقام بها. وكان يدخل الحجر بالليل ينوح على نفسه ويقول: سيدي! لم أراقبك ثم في خلواتي; سيدي!
ذهبت شهواتي وبقيت تبعاتي; فالويل لي يوم ألقاك، والويل كل الويل من صحيفتي إذا نشرت مملوءة من فضائحي وخطاياي; بل حل بي الويل من مقتك إياي وتوبيخك لم لي في إحسانك إلي ومقابلة نعمتك بالمعاصي; وأنت مطلع على أفعالي; سيدي! إلى من أهرب إلا إليك، وإلى من التجئ إلا إليك؟ سيدي! إني لا أستأهل أن أسألك الجنة، بل أسألك بجودك وكرمك وتفضلك أن تغفر لي وترحمني، فإنك أهل التقوى وأهل المغفرة.
قال محمد بن السماك: فبينا أنا ذات ليلة في الطواف إذ سمعت نغمته ونوحه وبكاءه، فحركني وأقلقني. فقطعت الطواف ودخلت الحجر، وأنا لا أثبته، فقلت له: حبيبي! من أنت؟ فإني أراك صغير السن، قريح القلب، مكروبا مغموما، حزين النوح، كثير الدموع; فما القصة؟ فإني حامل الخطيئة مع شيبتي، صاحب ذنوب. فنظر إلي فعرفني; فقال: ألست الواعظ لي وأنا منهمك في ضلالتي، سكران في حيرتي، لا أقبل عليك بوجهي؟ أنا موسى بن محمد بن سليمان بن علي الذي رأيتني بالبصرة. قال: فأصابتني من قوله دهشة; فدنوت منه