ثم عادوا إلى المهديّة، وتمادى رافع في المخالفة لعليّ، وجمع قبائل العرب، وسار بهم، حتّى نزل على المهديّة محاصرا لها، وخادع عليّا، وقال: إنّني إنّما جئت للدخول في الطاعة، وطلب من يسعى في الصّلح، وأفعاله تكذّب أقواله، فلم يجبه عن ذلك بحرف، وأخرج العساكر، وحملوا على رافع ومن معه حملة منكرة، فألحقوهم بالبيوت، ووصل العسكر إلى البيوت، فلمّا رأى ذلك النساء صحن، وولولن، فغارت العرب، وعاودت القتال، واشتدّ حينئذ الأمر إلى المغرب، ثم افترقوا، وقد قتل من عسكر رافع بشر كثير، ولم يقتل من جند عليّ غير رجل واحد من الرّجّالة.
ثم خرج عسكر عليّ مرّة أخرى، فاقتتلوا أشدّ من القتال الأوّل، كان الظهور فيه لعسكر عليّ، فلمّا رأى رافع أنّه لا طاقة له بهم رحل عن المهديّة ليلا إلى القيروان، فمنعه أهلها من دخولها، فقاتلهم أيّاما قلائل، ثم دخلها، فأرسل عليّ إليه عسكرا من المهديّة، فحصروه فيها إلى أن خرج عنها، وعاد إلى قابس، ثم إنّ جماعة من أعيان إفريقية، من العرب وغيرهم، سألوا عليّا في الصلح، فامتنع، ثم أجاب إلى ذلك، وتعاهد عليه.
كان رجّار، صاحب صقلّيّة، بينه وبين الأمير عليّ، صاحب إفريقية، مودّة وكيدة، إلى أن أعان رافعا كما تقدّم قبل، فاستوحش كلّ منهما من صاحبه، ثم بعد ذلك خاطبه رجّار بما لم تجر عادتهم به، فتأكّدت الوحشة، فأرسل رجّار رسالة فيها خشونة، فاحترز عليّ منه، وأمر بتجديد الأسطول، وإعداد الأهبة للقاء العدوّ، وكاتب المرابطين بمرّاكش في الاجتماع معه على الدخول إلى صقلّيّة، فكف رجّار عمّا كان يعتمده.