أمر الله بالقود فقال جبلة أترون أني جاعل وجهي بدلا لوجه مازني جاء من ناحية المدينة؟ بئس الدين هذا ثم ارتد نصرانيا وترحل بأهله حتى دخل أرض الروم فبلغ ذلك عمر فشق عليه وقال لحسان إن صديقك جبلة ارتد عن الإسلام فقال إنا لله: وإنا إليه راجعون ثم قال: ولم؟ قال لطمة رجل من مزينة فقال وحق له فقام إليه عمر بالدرة فضربه. ورواه الواقدي عن معمر وغيره عن الزهري عن عبيد الله بن عبد الله بن عباس ساق ذلك بأسانيده إلى جماعة من الصحاب وهذا القول هو أشهر الأقوال. وقد روى ابن الكلبي وغيره أن عمر لما بلغه إسلام جبلة فرح بإسلامه ثم بعث يستدعيه ليراه بالمدينة وقيل: بل استأذنه جبلة في القدوم عليه فأذن له فركب في خلق كثير من قومه قيل: مائة وخمسون راكبا وقيل: خمسمائة وتلقته هدايا عمر ونزله قبل أن يصل إلى المدينة بمراحل وكان يوم دخوله يوما مشهودا دخلها وقد ألبس خيوله قلائد الذهب والفضة ولبس تاجا على رأسه مرصعا باللآلئ والجواهر، وفيه قرطا مارية جدته.
وخرج أهل المدينة رجالهم ونساؤهم ينظرون إليه فلما سلم على عمر رحب به عمر وأدنى مجلسه، وشهد الحج مع عمر في هذه السنة فبينما هو يطوف بالكعبة إذ وطء إزاره رجل من بني فزارة فانحل فرفع جبلة يده فهشم أنف ذلك الرجل! ومن الناس من يقول إنه قلع عينه فاستدعي عليه الفزاري إلى عمر ومعه خلق كثير من بني فزارة فاستحضره عمر فاعترف جبلة فقال له عمر اقتدته منك فقال كيف وأنا ملك وهو سوقة؟ فقال إن الإسلام جمعك وإياه فلست تفضله إلا بالتقوى. فقال جبلة: قد كنت أظن أن أكون في الإسلام أعز مني في الجاهلية. فقال عمر: دع ذا عنك فإنك أن لم ترض الرجل اقتدته منك فقال: إذا أتنصر. فقال إن تنصرت ضربت عنقك. فلما رأى الحد قال سأنظر في أمري هذه الليلة فانصرف من عند عمر. فلما ادلهم الليل ركب في قومه ومن أطاعه، فسار إلى الشام ثم دخل الروم ودخل على هرقل في مدينة القسطنطينية فرحب به هرقل وأقطعه بلادا كثيرة وأجرى عليه أرزاقا جزيلة. وأهدى إليه هدايا جميلة. وجعله من سماره فمكث عنده دهرا وقال الواقدي: شهد اليرموك مع الروم أيام عمر بن الخطاب ثم أسلم بعد ذلك في أيام عمر. فاتفق أنه وطء رداء رجل من مزينة بدمشق فلطمه ذلك المزني فدفعه أصحاب جبلة إلى أبي عبيدة فقالوا: