Ebû Ubeyde (r.a.) doğası gereği Allâh (c.c.)’a ortak koşmaktan ve putlara tapmaktan hoşlanmazdı. Bundan dolayıdır ki Hz. Ebû Bekir (r.a.) onu tek olan Allâh (c.c.)’a ibâdet etmeye, putlara tapmamaya, cahiliye ahlâkını terk etmeye davet eder etmez, hemen kâbul etti. Hz. Ebû Bekir (r.a.) onunla birlikte Resûlullâh (s.a.v.)’e gitti ve Ebû Ubeyde (r.a.) Resûlullâh (s.a.v.)’in huzurunda müslüman olduğunu ilan etti. Böylece ilk sıralarda müslüman olanlardan oldu. Ebû Ubeyde (r.a.) müşriklerin düşmanlığından çok çekti. Onların başında babası Abdullah b. Cerrah geliyordu. Babası ona saldırgan davranarak hayatını acıya boğdu ve güçleştirdi. Bu sebepten Ebû Ubeyde (r.a.) Habeşistan’a hicret ederek Hz. Peygamber (s.a.v.) Medine-i Münevvere’ye hicret edene kadar orada kaldı. Uhud savaşında Ebû Ubeyde (r.a.) vuruşanların ön safındaydı. Bir ara “Peygamber öldürüldü” denildiğini duydu ve hasret duyguları içinde Resûlullâh (s.a.v.)’in bulunduğu tarafa koştu. Ebû Bekir (r.a.) diyor ki: “Ben süratle Resûlullâh (s.a.v.)’in yanına doğru koşuyordum. Bir başka yandan da koşarak Ebû Ubeyde’nin geldiğini gördüm. Resûlullâh (s.a.v.)’in parçalanan miğferinden iki halkanın yanağına girmiş olduğunu gördüm. Ebû Ubeyde (r.a.) şöyle dedi: “Ey Resûlullâh’ın yakın arkadaşı! Allâh aşkına, senden bu miğfer parçalarını çıkarma işini bana bırakmanı istiyorum” dedi ve miğfer parçalarını dişleriyle tutarak çekti. Fakat bir de baktık ki Ebû Ubeyde’nin ağzı kan dolmuş, ön dişlerinden iki tanesi miğfer parçalarını çıkarırken düşmüş bulunuyordu.” Ebû Ubeyde (r.a.) hayatı boyunca ön dişerindeki bu eksikle yaşadı. O Uhud savaşında yaşadığı bu aziz hatıra ile iftihar ederdi. Enes (r.a.)’dan Resûlullâh (s.a.v.)’in şöyle buyurduğu rivayet edilmiştir: “Muhakkak her ümmetin bir emîni, güvenilir adamı vardır. Muhakkâk ki bu ümmetin emîni, Ebû Ubeyde b. Cerrah’tır.”
(Muhammed Mütevelli Şaravî, Cennetle Müjdelenen On Sahâbî, s.177-178)