وعرف في وجهه الإنكار. فقال: أبا سليمان! قد فتح الله على يدي المدينة صلحًا وكفى الله المؤمنين القتال.
قال الواقدي: ما خاطب أبو عبيدة خالدًا يوم فتح دمشق إلا بالإمارة فقال: أيها الأمير قد تم الصلح. فقال خالد: وما الصلح؟ لا أصلح الله بالهم وأنى لهم الصلح وقد فتحتها بالسيف، وقد خضبت سيوف المسلمين من دمائهم وأخذت الأولاد عبيدًا وقد نهبت الأموال. فقال أبو عبيدة: أيها الأمير اعلم أني ما دخلتها إلا بالصلح. فقال له خالد بن الوليد: أنا ما دخلتها إلا بالسيف عنوة وما بقي لهم حماية فكيف صالحتهم؟! قال أبو عبيدة: اتق الله أيها الأمير، والله لقد صالحت القوم ونفذ السهم بما هو فيه وكتبت لهم الكتاب وهو مع القوم. فقال خالد: وكيف صالحتهم من غير أمري وأنا صاحب رايتك والأمير عليك ولا أرفع السيف عنهم حتى أفنيهم عن آخرهم. فقال أبو عبيدة: والله ما ظننت أنك تخالفني إذا عقدت عقدًا ورأيت رأيًا فالله الله في أمري، فوالله لقد حقنت دماء القوم عن آخرهم وأعطيتهم الأمان من الله - جل جلاله - وأمان رسول الله - صلى الله عليه وسلم - وقد رضي من معي من المسلمين، والغدر ليس من شيمنا. وارتفع الصياح بينهما وقد شخص الناس إليهما وخالد مع ذلك لا يرجع عن مراده، ونظر أبو عبيدة إلى ذلك فرأى أصحاب رسول الله - صلى الله عليه وسلم - مع خالد وهم جيش البوادي من العرب مشتبكون على قتال الروم ونهب أموالهم.
فنادى أبو عبيدة: واثكلاه خفرت والله ونقض عهدي!! وجعل يحرِّك جواده ويشير إلى العرب مرة يمينًا ومرة شمالًا وينادي: معاشر المسلمين أقسمت عليكم برسول الله - صلى الله عليه وسلم - أن لا تمد أيديكم نحو الطريق الذي جئت منه حتى نرى ما نتفق أنا وخالد عليه، فلما دعاهم بذلك سكتوا عن القتل والنهب واجتمع إليهما فرسان المسلمين والأمراء وأصحاب الرايات مثل معاذ بن جبل ويزيد بن أبي سفيان وعمرو بن العاص وشرحبيل بن حسنة وربيعة بن عامر وعبد الله بن عمر بن الخطاب - رضي الله عنهم - أجمعين ونظرائهم، والتقوا عند الكنائس واجتمع هناك الفرسان للمشورة والمناظرة.
فقالت طائفة من المسلمين منهم معاذ بن جبل ويزيد بن أبي سفيان: الرأي أن تمشوا إلى ما أمضاه أبو عبيدة بن الجراح وتكفوا عن القتال للقوم. فإن مدن الشام لم تفتح بعد، وهرقل في أنطاكية كما تعلمون، وإن علم أهل المدن أنكم صالحتم وغدرتم لم تفتح لكم مدينة صلحًا ولأن تجعلوا هؤلاء الروم في صلحكم خير من قتلهم، ثم قالوا لخالد: أمسك عليك ما فتحت بالسيف ويعينك أبو عبيدة بجانبه واكتبا إلى الخليفة وتحاكما إليه، فكل ما أمر به