ثم أول شيء أمر به أن عزل خالد بن الوليد عن الإِمرة وولى أبا عبيدة على الجيش والشام وأرسل بذلك إِليهما وهو أول من سميَّ بأمير المؤمنين .
وكان أبو بكر يخاطب بخليفة رسول الله صلى الله عليه وسلم .
ثم سار أبو عبيدة ونازل دمشق وكانت منزلته من جهة باب الجابية ونزل خالد من جهة باب توما وباب شرقي ونزل عمرو بن العاص بناحية أخرى وحاصروهما قريبًا من سبعين ليلة وفتح خالد ما يليه بالسيف فخرج أهل دمشق وبذلوا الصلح لأبي عبيدة من الجانب الآخرة وفتحوا له الباب فأمنهم ودخل والتقى مع خالد في وسط البلد وبعث أبو عبيدة بالفتح إِلى عمر وفي أيامه فتح العراق .
ثم دخلت سنة أربع عشرة فيها في المحرم أمر عمر ببناء البصرة فاختطت وقيل في سنة خمس عشرة وفيها توفي أبو قحافة أبو أبي بكر الصديق وعمره سبع وتسعون سنة وكانت وفاته بعد وفاة ابنه أبي بكر .