عزل عمر خالدا عن إمارة حمص في سنة سبع عشرة وإقامة للناس وعقله بعمامته ونزع قلنسوته عن رأسه وقال أعلمني من أين لك هذا المال وذلك أنه أجاز الأشعث بن قيس بعشرة آلاف درهم فقال من الأنفال والسهمان فقال لا والله لا تعمل لي عملا بعد اليوم وشاطره ماله وكتب إلى الأمصار بعزله وقال إن الناس فتنوا به فخفت أن يوكلوا إليه وأحببت أن يعلموا أن الله هو الصانع . لما أسر الهرمزان حمل إلى عمر من تستر إلى المدينة ومعه رجال من المسلمين منهم الأحنف بن قيس وأنس بن مالك فأدخلوه المدينة في هيئته وتاجه وكسوته فوجدوا عمر نائما في جانب المسجد فجلسوا عنده ينتظرون انتباهه فقال الهرمزان وأين عمر قالوا ها هو ذا قال أين حرسه قالوا لا حاجب له ولا حارس قال فينبغي أن يكون هذا نبيا قالوا إنه يعمل بعمل الأنبياء واستيقظ عمر فقال الهرمزان فقالوا نعم قال لا أكلمه أو لا يبقى عليه من حليته شي ء فرموا ما عليه وألبسوه ثوبا صفيقا فلما كلمه عمر أمر أبا طلحة أن ينتضي سيفه ويقوم على رأسه ففعل ثم قال له ما عذرك في نقض الصلح ونكث العهد وقد كان الهرمزان صالح أولا ثم نقض وغدر فقال أخبرك قال قل قال وأنا شديد العطش فاسقني ثم أخبرك فأحضر له ماء فلما تناوله جعلت يده ترعد قال ما شأنك قال أخاف أن أمد عنقي وأنا أشرب فيقتلني سيفك قال لا بأس عليك حتى تشرب فألقى الإناء عن يده فقال ما بالك أعيدوا عليه الماء ولا تجمعوا عليه بين القتل والعطش قال إنك قد أمنتني قال كذبت قال لم أكذب قال أنس صدق يا أمير المؤمنين قال ويحك يا أنس أنا أؤمن قاتل مجزأة بن ثور والبراء بن مالك والله لتأتيني بالمخرج أو لأعاقبنك قال أنت يا أمير المؤمنين قلت لا بأس عليك حتى تشرب وقال له ناس من المسلمين