وترك (الغزالي) التدريس بالمدرسة النظامية، واتجه إلى طريق الزهد والعبادة، ورحل إلى عدة مدن إسلامية، فرحل إلى (دمشق) وأقام مدة قصيرة، ثم رحل إلى بيت المقدس، ومنها ذهب إلى (مكة) واختار طريق التصوف وفضَّله على كل الطرق، ولم يزل الغزالي على حالته في الزهد والعبادة حتى طلب منه السلطان العودة مرة أخرى إلى نيسابور للتدريس ونشر العلم، لكنه لم يمكث بها مدة طويلة، فقد عاد بعد سنتين إلى طوس، وهناك أنشأ الغزالي زاوية للزهاد والصوفية وطلبة الفقه والعلوم الشرعية، وظل بـ (طوس) حتى توفاه الله في 14 جمادى الآخرة عام 505هـ/1111م عن خمسة وخمسين عامًا قضاها في العلم والتعلم ونشر الفكر الإسلامي الصحيح بين المسلمين، والدفاع عن الإسلام ضد أهل الديانات الأخرى والفرق الضالة، ومن هنا لُقِّب الغزالي بـ (حجة الإسلام) .

وللغزالي مؤلفات كثيرة تزيد على أربعمائة؛ منها: (إحياء علوم الدين) و (الوسيط) في الفقه الشافعي و (تهافت الفلاسفة) و (المستصفي في أصول الفقه) .. وغير ذلك، ومع غزارة إنتاج الغزالي، فإن أسلوبه يتسم بالعبارة السهلة،والبعد عن التعقيد.. فجزاه الله خيرًا عما قدم للإسلام من خدمات جليلة.