خالد در عراق بسیار موفق عمل کرد و چندین شهر عراق از جمله حیره را به تصرف درآورد. در سمت شام و در تقابل با رومی ها نیز لشگر مسلمین موفق بود. فرماندهی در سمت شام بر عهدۀ ابوعبیده جرّاح و پس از او بر عهده یزید بن معاویه بود.

ابوبکر پس از پیروزی های چشمگیر خالد در عراق، او را به فرماندهی کل قسمت شام گماشت. او مأمور شد لشگر اسلام را در شام متحد کند. خالد برای زودتر رسیدن به شام یک راه صعب العبور را انتخاب کرد و در واقوصه به لشگر مسلمین پیوست و تمامی لشگر اسلام را منسجم کرد و در همان محل قاموصه بین مسلمین و امپراتوری روم جنگ سختی درگرفت و مسلمین پیروز میدان بودند. در اثناء جنگ نامه ای از مدینه، مبنی بر مرگ ابوبکر و خلافت عمر رسید و ابوعبیده را به عنوان فرمانده کل معرفی کرد. از آن پس خالد مدتی تحت امر ابو عبیده فعالیت می کرد.