وقد انتهى الخلاف بمبايعة أبي بكر على الخلافة. إلا أنّ جماعة من المسلمين كانت ترى أن الخلافة يجب أن تكون في آل بيت رسول الله، أي في بني أبي طالب من هاشم، وهم أفضل قريش. وتعتبر هذه الجماعة من المسلمين النواة الأولى للشيعة، التي لم تصبح حزبًا سياسيًا - دينيًا إلا في وقت لاحق. إذ على الرغم من أن عليًا كرّم الله وجهه بايع أبا بكر وعمر ومن بعدهما عثمان، فقد ظلت تلك الجماعة تعتبره أحق الثلاثة بالخلافة وأولى بها منهم. ولا يمكننا أن نحدد بدقة متى أطلق على هذه الجماعة اسم الشيعة، إلا أن الكلمة تعني لغة"الأتباع"أو"الأنصار"، ويقصد بها أنصار عليّ كرّم الله وجهه في أحقيته بالخلافة.

هذا الحسم للنزاع الداخلي على الخلافة لم يكن نهائيًا، وإنما كان تأجيلًا مؤقتًا، فرضته الأخطار الخارجية التي كانت تهدد الجماعة الإسلامية في وجودها نفسه. وقد ظهرت هذه الأخطار إثر ارتداد بعض القبائل العربية عن الإسلام، وامتناع بعضها عن دفع الزكاة. ويبدو أن هذه القبائل كانت قد دخلت في الإسلام بعد انتصارات الرسول - صلى الله عليه وسلم - المتعاقبة، ولكنها لم تكن قد آمنت بكل ما فيه من قيم. فقد كانت ترى في خضوعها له خضوعًا لقبيلة قريش. كما أن الزكاة كانت تمثل في أعينهم الجزية التي كانت تأخذها القبائل القوية من القبائل الضعيفة. وكان على الخليفة الأول أن يتخذ موقفًا من تلك القبائل، وقد استطاع أن يقضي على هذا الخطر بعد معارك دامية دارت بين المسلمين وبين هؤلاء المرتدين.