ارتفع صوت ابن أبى طالب يدوّي في أرجاء مكة،والناس منصتة إليه وهو يحمل إليهم النداء النبوي الشريف،والكلمات تسرى من فمه فسرعأن ما تخترق الآذأن،فيشعر المسلمون بالسعادة الغامرة إذ يسحب الشرك آخر جنوده بعيدا عن أداء هذه الفريضة الغالية: الحج إلى بيت الله الحرام.
"أبو بكر أفضل الأمة بعد رسولها".. أمر كان يدركه علىٌّ جيدا،إلا إنه كان يفهم أن كون قريش الأولى بالخلافة يعني أيضا أن أقارب رسول الله - صلى الله عليه وسلم - وأهل بيته هم أولى قريش بهذا الأمر،لذا تردد علي في مبايعة أبى بكر أول الأمر،إلا إنه سرعأن ما أدرك فضل أبي بكر،فبادر بالمبايعة على الخلافة والسمع والطاعة للصدِّيق،فقرّبه منه أبو بكر،وجعله من أهل مشورته،وجعله في حروب الردة على مداخل المدينة مع الزبير وطلحة وابن مسعود يرقبون حركة العدو،حتى أنتصر المسلمون وزهق الباطل.
وكان عليٌّ يروي الحديث عن أبي بكر ويثق في صدقه وأمأنته.
ويرحل أبو بكر عن الدنيا،ويخلفه الفاروق الكبير عمر بن الخطاب أميرًا على المسلمين من بعده،فيكون علي بن أبى طالب أحد رجال مجلسه ومستشاريه الكبار: يُسْأَل عن رأيه فيفيض علما،ويستفتى في قضية فتتدفق منه الحكمة.
وكان علي يرى الخليفة عمر رجلا عفا صائنا لأموال المسلمين،محافظا على أمأناتهم،فيثني عليه خيرا،ويقول له:"أتعبت من جاء بعدك"!
لقد كان على يجل الشيخين،ويثني عليهما خيرا،وقال مرة في خطبة له:"اللهم أصلحنا بما أصلحت به الخلفاء الراشدين المهديين"،فسئل عنهم فقال: هما حبيباي أبو بكر وعمر،إماما الهدى،وشيخا الإسلام ورجلا قريش ..."."
تنافس علي وعثمان على نيل ثقة الأمة والفوز بالخلافة بعد وفاة عمر بن الخطاب،فمال الصحابة إلى اختيار عثمان لإيثاره الرفق واللين،ومع ذلك لم تترك المنافسة الشريفة غلا ولا حقدا في قلب أي من الأخوين على أخيه،فبقي علي مستشارا وناصحا للخليفة عثمان،كما كان لأبي بكر وعمر من قبله،وحرص عثمان من جانبه على أن يقرب منه ابن عم رسول الله - صلى الله عليه وسلم - .
وتقدمت السن بالخليفة،فبدأ بعض أقاربه من بنى أمية يستغلون قرابتهم منه بصورة غير طيبة،فراح علي ينصح الخليفة برفق،والخليفة يهوِّن عليه الأمر،حتى خرج المعترضون على عثمان يريدون قتله،أو عزله،فوقف علي إلى جانب الحق الذى مثله الخليفة،ولم يمنعه ذلك من نصح عثمان بقص أجنحة بعض أقاربه دفعا لاعتراض الناس. ولما اشتد الحصار حول بيت أمير المؤمنين،ومُنع عنه الطعام والشراب كان ابن أبي طالب من أول المنجدين للخليفة العظيم،بل أرسل إليه ولديه الحسن والحسين لحراسته من المتمردين الأشقياء،وغضب بشدة حينما بلغه نبأ مقتل الخليفة الشهيد،حتى لطم وجه الحسن الغالي.