لَمَّا اسْتُخْلِفَ عُمَرُ نَزَعَ خَالِدَ بْنَ الْوَلِيدِ ، فَأَمَّرَ أَبَا عُبَيْدَةَ بْنَ الْجَرَّاحِ ، وَبَعَثَ إِلَيْهِ بِعَهْدِهِ وَهُوَ بِالشَّامِ يَوْمَ الْيَرْمُوكِ ، فَمَكَثَ الْعَهْدُ مَعَ أَبِي عُبَيْدَةَ شَهْرَيْنِ لَا يُعَرِّفُهُ إِلَى خَالِدٍ حَيَاءً مِنْهُ ، فَقَالَ خَالِدٌ : " أَخْرِجْ أَيُّهَا الرَّجُلُ عَهْدَكَ نَسْمَعُ لَكَ وَنُطِيعُ ، فَلَعَمْرِي لَقَدْ مَاتَ أَحَبُّ النَّاسِ إِلَيْنَا وَوُلِّيَ أَبْغَضُ النَّاسِ إِلَيْنَا . فَكَانَ أَبُو عُبَيْدَةَ عَلَى الْخَيْلِ "
عَبْدُ الرَّزَّاقِ ، عَنْ مَعْمَرٍ ، عَنِ الزُّهْرِيِّ قَالَ : لَمَّا اسْتُخْلِفَ عُمَرُ نَزَعَ خَالِدَ بْنَ الْوَلِيدِ ، فَأَمَّرَ أَبَا عُبَيْدَةَ بْنَ الْجَرَّاحِ ، وَبَعَثَ إِلَيْهِ بِعَهْدِهِ وَهُوَ بِالشَّامِ يَوْمَ الْيَرْمُوكِ ، فَمَكَثَ الْعَهْدُ مَعَ أَبِي عُبَيْدَةَ شَهْرَيْنِ لَا يُعَرِّفُهُ إِلَى خَالِدٍ حَيَاءً مِنْهُ ، فَقَالَ خَالِدٌ : أَخْرِجْ أَيُّهَا الرَّجُلُ عَهْدَكَ نَسْمَعُ لَكَ وَنُطِيعُ ، فَلَعَمْرِي لَقَدْ مَاتَ أَحَبُّ النَّاسِ إِلَيْنَا وَوُلِّيَ أَبْغَضُ النَّاسِ إِلَيْنَا . فَكَانَ أَبُو عُبَيْدَةَ عَلَى الْخَيْلِ