فقيل له إنهم خرجوا مداراة. فقال: اسكت. أرأيت لو نزل الروم بنا فقالوا إنما تنزلون على حكمنا أو نجاهدكم. هل كان يجوز أن ننزل على حكمهم. وإن عشت سترى من أحكام هؤلاء، ما هو شرّ من أحكام الشرك.
وكان رجل من المتصوفة، يحضر مجلسه، فإذا سمع شيئًا من الدقائق، عصر عينيه، فيقول له: لست من أهل هذا. فلما دخل الشيعي، صار يخدم كتابه. وكان جبلة إذا رأى ابن غازي، في أول أمره. وعبادته، وتصوفه، وطلبه للعلم، يقول: ليس يموت على الإسلام. فلما دخل عبيد الله تشرف ابن غازي، بعد الاجتهاد في العبادة. وسكن الثغور، وطلب العلم، ودخل دعوتهم. وقال بالإباحة. وكان ممن قال لعبيد الله: أنت. أنت.
كان رحمه الله تعالى، شديدًا في ذلك. لا يداري فيه أحدًا. ولم يكن أحد أكثر مجاهدة منه للروافض، وشيعهم. فنجّاه الله تعالى منهم. ولما دخل عبيد الله إفريقية، ونزل رقادة. ترك جبلة سكنى الرباط. ونزل القيروان. فكلم في ذلك. فقال: كنا نحرس عدوًا بيننا وبينه البحر. والآن حلّ هذا العدو بساحتنا. وهو أشد علينا من ذلك. فكان إذا أصبح، وصلى الصبح، خرج الى طرف القيروان من ناحية رقادة، ومعه سيفه، وترسه، وقوسه، وسهامه، وجلس محاذيًا لرقادة، نهاره. الى غروب الشمس. ثم يرجع الى داره. ويقول احرس عورات المسلمين منهم. فإذا رأيت منهم شيئًا، حركت المسلمين عليهم.