وأقام يعلم فيها وكان مذهبه تكفير أهل الملة واستباحة الأموال والدماء والخروج على السلطان فابتدأ يحتسب على الناس في أفعالهم ومذاهبهم فصار له جماعة يعظمونه وذلك أيام المهدي سنة ست عشرة وثلاثمائة ولم يزل على ذلك إلى أن اشتدت شوكته وكثر أتباعه في أيام القائم ولد المهدي فصار يغير ويحرق ويفسد وزحف إلى بلاد القائم وحاصر باغاية وهزم الجيوش الكثيرة عليها ثم حاصر قسطيلية سنة ثلاث وثلاثين وثلاثمائة وفتح تبسة ومجانة وهدم سورها وآمن أهلها ودخل مرمجنة فلقيه رجل من أهلها وأهدى له حمارا أشهب مليح الصورة فركبه أبو يزيد من ذلك اليوم وكان قصيرا أعرج يلبس جبة صوف قصيرة قبيح الصورة ثم إنه هزم كتامة وأنفذ طائفة من عسكره إلى سبيبة ففتحها وصلب عاملها وسار إلى الأربس ففتحها وأحرقها ونهبها وجاء الناس إلى الجامع فقتلهم فيه فلما اتصل ذلك بأهل المهدية استعظموه وقالوا للقائم الأربس باب أفريقية ولو أخذت زالت دولة بني الأغلب فقال لا بد أن يبلغ أبو يزيد المصلى وهو أقصى غايته
ثم إن القائم أخرج الجيوش لضبط البلاد فأخرج جيشا إلى رقادة وجيشا إلى القيروان وجمع العساكر فخاف أبو يزيد وعول على أخذ بلاد أفريقية وإخرابها وقتل أهلها وسير القائم الجيش الذي اجتمع له مع فتاه ميسور وسير بعضه مع فتاه بشرى إلى باجة فلما بلغ أبا يزيد خبر بشرى ترك أثقاله وسار جريدة إليه فالتقوا بباجة فانهزم عسكر أبي يزيد وبقي في نحو أربعمائة مقاتل فقال لهم ميلوا بنا نخالفهم إلى خيامهم ففعلوا ذلك فانهزم بشرى إلى تونس وقتل من عسكره كثير من وجوه كتامة وغيرهم ودخل أبو يزيد باجة فأحرقها ونهبها وقتلوا الأطفال وأخذوا النساء
وكتب إلى القبائل يدعوهم إلى نفسه فأتوه وعمل الأخبية والبنود وآلات