و لما خرجَ إلى بيتِ المقدسِ عندما حاصرَها أبو عبيدةَ و قالوا له: لا تسلم مفاتيحها إلا لأمير المؤمنين فليأتنا، فاستشارَ أصحابَه، هل أذهبُ إليهم أو لا؟
فأشارَ إليه عليٌّ و قالَ: بل تذهبُ إليهم، فذهبَ إليهم و ولَّى عليًّا على المدينةِ، فخرجَ هو و غلامٌ له على بعيرٍ يتناوبان عليه، يركبُ عمرُ مرَّة و يركبُ غلامُه مرَّة، فلمَّا وصلُوا إلى بيتِ المقدسِ فإذا الغلامُ راكبٌ و عمرُ يسوقُ الدَّابَّةَ له، فلما رآه أبو عبيدةَ أقبلَ إليه يريدُ أنْ يقبِّل يدَه، فلمَّا رأى عمرُ ذلك الوضعَ منْ أبي عبيدةَ و هو أنه يريدُ تقبيلَ يدِ عمرَ، نزلَ عمرُ ليقبِّل رِجْلَ أبي عبيدةَ، فامتنعَ أبو عبيدةَ فامتنعَ عمرُ.
كانَ متواضعًا رضيَ الله عنه و أرضاه و هو خليفةُ المسلمين في ذلك الوقت.
لما استخلفَه أبو بكر الصديق قيلَ له مَنْ تستخلفُ علينا؟؟
و ماذا تقولُ لله و قد استخلفتَ علينا عمرَ شديدًا في دين الله؟؟؟
قالَ: أقولُ لربي استخلفتُ خيرَ أهلي.
و لذلك قالَ عبدُ الله بنُ مسعود: أفرسُ الناسِ ثلاثةٌ - يعني الذين رزقَهمُ الله الفراسةَ -: صاحب يوسف الذي قالِ لامرأتهِ:"أَكْرِمِي مَثْوَاهُ عَسَى أَن يَنفَعَنَا أَوْ نَتَّخِذَهُ وَلَدًا"، و المرأة التي قالتْ لأبيها:"يَا أَبَتِ اسْتَاجِرْهُ - يعني موسى صلوات الله و سلامه عليه - إِنََّ خَيْرَ مَنِ اسْتَاجَرْتَ الْقَوِيّ الأَمِينُ"، و أبو بكر حينما استخلف عمرَ على الناسِ.