والمهدي كان شديدا في حرب الملاحدة، وأنشأ هيئة مهمتها التنقيب والبحث عن الزنادقة، وجعل لها رئيسا أطلق عليه اسم (صاحب الزنادقة) .
قال المسعودي في المهدي:
(انه أمعن في قتل الملحدين والمداهنين عن الدين لظهورهم في أيامه، واعلانهم عن معتقداتهم في خلافته لما انتشر من كتب ماني، وابن ديصان ومرقيون، مما نقله عبد الله بن المقفع وغيره وترجمه من الفارسية والفهلوية الى العربية، وما صنف في ذلك ابن أبي العوجاء وحماد عجرد، ويحيى بن زياد، ومطيع بن إياس من تأييد المذاهب المانوية والديصانية والمرقونية. فكثر بذلك الزنادقة، وظهرت آراؤهم في الناس.
وكان المهدي أول من أمر الجدليين من أهل البحث من المتكلمين بتصنيف الكتب في الرد على الملحدين ممن ذكرنا من الجاحدين وغيرهم، وأقاموا البراهين على المعاندين، وأزالوا شبه الملحدين فأوضحوا الحق للشاكين"8").
ولقد أوصى المهدي ابنه (الهادي) بتتبع الزنادقة والبطش بهم، ورغم قيام هيئة مختصة مهمتها تتبع الزنادقة استطاعوا ان يحتفظوا بأنشطتهم بصورة سرية، وعن هذا الطريق تمكنوا من احتلال أغلب المناصب في دولة بني العباس، وبلغ أحدهم (الأفشين) قائد جيوش المعتصم.
(8) ضحى الاسلام، ج1، ص 140، عن المسعودي، ج2، ص 401.