يتصادم مع أبي بكر الذي ثبتت له جناية خالد، ولكنه منذ الساعة وكأنه كان يريد أن تكون هذه عبرة لكل من تسول له نفسه من موالي آل محمد (صلى الله عليه وآله) الاعتراض، ويصد عمر ويغفر لخالد، ويكتفي بقوله: إنه اجتهد فأخطأ.
وإذ لم يجد عمر لطلب الحد على خالد سبيلا يقول في أبي بكر: لقد لج فيه شيطانه.
ولم يكتف أبو بكر بالعفو عن خالد بل يتركه بعد أن يمنحه وساما ويسميه سيف الله، ويوليه بعدها، هو ومن جاراه في أفعاله، يسطون على مخالفيه ومعانديه، حتى يبلغ الأمر أن يوليه ولاية في الشام، ويصطدم عندها بأحد أعوان الخليفة أبي بكر ويرغمه على أن يزوجه ابنته قهرا وتهديدا، ولا يرى هذا مناصا إلا الطاعة، ويبلغ الخبر هنا أبا بكر وعندها تثور ثائرة الخليفة ويرسل له رسالة يقول له فيها:
" لعمري يا بن أم خالد إنك لفارغ تنكح النساء وبفناء بيتك دم ألف ومائتي رجل من المسلمين لم يجف بعد ".
كتب ذلك لخالد لما قال خالد لمجاعة: زوجني ابنتك. فقال له مجاعة: مهلا، إنك قاطع ظهري وظهرك معي عند صاحبك. قال: أيها الرجل زوجني، فزوجه، فبلغ ذلك أبا بكر فكتب إليه الكتاب.
تلك شهادة لا تنكر من أبي بكر، وعلم منه بخالد، وقبلها كلمة عمر لأبي بكر:
إن عدو الله (يعني خالدا) عدا على امرئ مسلم فقتله، ثم نزا على امرأته.
ذلك قبل أن يرد خالد المدينة، بل كانت لشهادة ابنه، ومذ أقبل خالد بن الوليد حتى دخل المسجد وعليه قباء له عليه صدأ الحديد معتجرا بعمامة له قد غرز في عمامته أسهما، ومذ دخل المسجد قام إليه عمر فانتزع الأسهم من رأسه فحطمها،