واستهدف ابن سبأ وأنصاره الولاة الصالحين, وصاروا يختلقون التهم لهم, بينما نصّبوا أنفسهم قائمين على مصالح الناس آمرين بالمعروف ناهين عن المنكر, ونجحوا بعد عمل دؤوب من المكر والكذب والخداع أن يشكلوا ما يشبه الرأي العام الساخط على عثمان وعلى ولاته, وسار هؤلاء السبئية ومن معهم من الخوارج والغوغاء والأعراب من مصر والبصرة والكوفة إلى مدينة رسول الله ? يريدون قتل خليفة المسلمين عثمان, وكان لهم ما أرادوا, فقد تمكنوا في ذي الحجة من السنة الخامسة والثلاثين للهجرة من قتله وهو شيخ كبير في الثانية والثمانين من عمره وكان في تلك اللحظة يقرأ القرآن رضي الله عنه.

وكان عثمان رضي الله عنه حريصًا على ألا تراق دماء المسلمين من أجله, وكان يطلب من الصحابة ألا يواجهوا هؤلاء المفسدين, وكان يصرفهم عن داره المحاصرة من قبل هؤلاء الغوغاء الذين استغلوا ذهاب الصحابة والمسلمين إلى الحج والأمصار.

واختلف المؤرخون في عدد هؤلاء المفسدين, فمنهم من قال كان عددهم ألفين, وقيل من مصر ألفان ومن الكوفة ألفان ومن البصرة ألفان. وبرغم الاختلاف في العدد, إلا أنهم في الراجح لا يقلون عن ألفين, ولم يكن عدد الصحابة المتواجدين آنذاك في المدينة يساوي عددهم, إضافة إلى أنهم لم يتخيلوا أن الأمر يصل بهؤلاء إلى قتل خليفة المسلمين, ولعلّ هذا ما يفسر عجز الصحابة رضي الله عنهم عن حماية الخليفة رغم أنهم بذلوا جهدهم, إضافة إلى نهي عثمان للصحابة بالقتال رغبة منه في حقن دماء المسلمين ورحمة بهم, مع حرصه على عدم إجابة المفسدين على ما طلبوه من أن يترك الخلافة, وان ينزع القميص الذي قمصه الله إياه.

وفي هذه المرحلة لم يكن قد اخترع ابن السوداء فكرة التشيع التي نشرها بعد أن آلت الأمور لعلي بن أبي طالب وكان يظن أن تنتهي دولة الإسلام بقتل الخليفة, فلما فشل بدأ في بدعة جديدة وهي بدعة التشيع لعلي.