كان رضي الله عنه ينهى جنوده عن قتل من لا يحاربهم من الخوارج، ويأمر الولاة بأن يحبسوا من يؤذي الناس منهم، بعض الوقت حتى يهتدي إلى الحق أو يجعل الله له سبيلا.
كذلك أبطل عمر ما كان بعض الأمويين قد ابتدعوه من الشر والبهتان وقطيعة الأرحام. فقد كان بعض من سبقوه يأمرون خطباء المساجد بسب الإمام علي بن أبي طالب كرم الله وجهه على المنابر ، فلما ولى عمر الخلافة نهى عن ذلك، وكتب إلى نوابه في البلاد يأمرهم باستبدال السباب والفسوق والعصيان بآية من كتاب الرحمن تقول:"إن الله يأمر بالعدل والإحسان وإيتاء ذي القربى، وينهى عن الفحشاء والمنكر والبغي، يعظكم لعلكم تذكرون". ولا تزال هذه الآية الكريمة تتلى على المنابر إلى يومنا هذا. وكان يثني على الإمام علي. ويقرب إليه بناته و أحفاده، ومن يأتيه من بني هاشم لقرابتهم من الرسول صلى الله عليه وسلم. وقال لأحدهم ذات مرة: إني أستحي من الله أن تقف ببابي ولا يؤذن لك.
وقال لآخر: إني أرغب بك عن دنس الدنيا - يقصد أنه لا يوليه منصبا في خلافته - لما أكرمكم الله به... ويصف ما كان بين بني هاشم وبني عمهم من الأمويين من تنافس قائلا: كنا وبنو عمنا أل هاشم نتسابق، مرة لنا - نسبقهم في الفضل - ومرة لهم، نلجأ إليهم ويلجأ ون إلينا حتى طلعت شمس الرسالة فأكسدت كل نافق - هالك - وأخرست كل منافق، وأسكتت كل ناطق.
ولهذه الخصال النبيلة والسجايا الكريمة أحبته الرعية وأحبه آل بيت النبي صلى الله عليه وسلم، حتى كانت فاطمة بنت علي كرم الله وجهه تثني عليه بعد موته، وتقول: جزاه الله خيرا لو كان بقى لنا ما احتجنا بعده إلى أحد". ولا عجب فإنه أحد الذين جعل لهم الله محبة في القلوب بغير سعي منهم للظفر بها، وذلك جزاء المتقين."