توفي سنة ثلاث أو اثنتين وتسعين.
قال ابن جرير الطبري: ضربه عمر بن عبد العزيز إذ كان أمير المدينة بأمر الخليفة الوليد خمسين سوطا، وصب على رأسه قربة في يوم بارد، وأوقفه على باب المسجد يوما، فمات رحمه الله.
قلت: روى عن: أبيه، وعائشة.
وعنه: ابنه الزبير، ويحيى بن عبد الله بن مالك، والزهري، وغيرهم.
وقيل: إنه أدرك كعب الأحبار، وكان من النساك.
قال الزبير بن بكار: أدركت أصحابنا يذكرون أنه كان يعلم علما كثيرا لا يعرفون وجهه ولا مذهبه فيه، يشبه ما يدعي الناس من علم النجوم.
ولما مات ندم عمر وسقط في يده واستعفى من المدينة، وكانوا إذا ذكروا له أفعاله الحسنة وبشروه يقول: فكيف بخبيب.
وقيل: أعطى أهله ديته، قسمها فيهم.
وقال مصعب الزبيري: أخبرني مصعب بن عثمان أنهم نقلوا خبيبا إلى دار عمر بن مصعب بن الزبير، فاجتمعوا عنده حتى مات. قال: فبينا هم جلوس إذ جاءهم الماجشون يستأذن عليهم وهو مسجى، وكان الماجشون يكون مع عمر، فقال له عبد الله بن عروة: كأن صاحبك في مرية من موته، اكشفوا عنه، فلما رآه رجع، قال الماجشون: فأتيت عمر فوجدته كالمرأة الماخض قائما وقاعدا، فقال لي: ما وراءك فقلت: مات الرجل، فسقط إلى الأرض فزعا،) واسترجع، فلم يزل يعرف فيه ذلك حتى مات، واستعفى من المدينة وامتنع من الولاية. وكان يقال له: إنك فعلت فأبشر، فيقول: فكيف بخبيب.
قال مصعب بن عبد الله: وحدثت عن يعلى بن عقبة قال: كنت أمشي