ولما حضرته الوفاة، وتهيأت روحه للرحيل، وكان أول المهاجرين وفاة بالمدينة، وأول من دفن من المسلمين في البقيع وذلك بعد رجوعه من بدر بثلاثة أشهر، وقد شهد بدرا مع رسول الله صلى الله عليه وآله.
وقد أكب رسول الله صلى الله عليه وآله على جبينه يقبله، ويعطره بدموعه التي هطلت من عينيه. وقال صلى الله عليه وآله وهو يودعه:
إذهب يا أبا السائب، فقد خرجت منها ولم تلبس منها شيئا.
وقال صلى الله عليه وآله: رحمك الله يا أبا السائب، خرجت من الدنيا وما أصبت منها، وما أصابت منك.
وقال صلى الله عليه وآله: نعم السلف لنا هو عثمان بن مظعون.
وأمر رسول الله صلى الله عليه وآله بتجهيزه، فلما وضع في قبره وأهيل التراب عليه، علم على قبره بحجارة، وكان يزوره.
وعن ابن عباس، قال: لما دفن عثمان بن مظعون قالت امرأته: هنيئا لك الجنة، فنظر إليها رسول الله صلى الله عليه وآله بغضب، وقال: ما يدريك؟؟ قالت: يا رسول الله، فارسك وصاحبك؟ فقال صلى الله عليه وآله: إني رسول الله، وما أدرى