والتصوف بهذا المعنى موجود منذ الصدر الأول للإسلام، فكثير من الصحابة كانوا معرضين عن الدنيا ومتاعها، آخذين أنفسهم بالزهد والتقشف، مبالغين فِي العبادة، فكان منهم مَن يقوم الليل ويصوم النهار، ومنهم مَن يشد الحجر على بطنه تربية لنفسه وتهذيباً لروحه، غير أنهم لم يُعرفوا فِي زمنهم باسم الصوفية، وإنما اشتهر بهذا اللقب فيما بعد مَن عُرفوا بالزهد والتفانى فِي طاعة الله تعالى، وكان هذا الاشتهار فِي القرن الثاني الهجري، وأول من سُمِّى بالصوفى: أبو هاشم الصوفى المتوفى سنة 150 هـ (خمسين ومائة من الهجرة) .

وفي هذا القرن وما بعده تولَّدت بعض الأبحاث الصوفية، وظهرت تعاليم القوم ونظرياتهم التي تواضعوا عليها، وأخذت هذه الأبحاث تنمو وتتزايد كلما تقادم العهد عليها. وبمقدار ما اقتبسه القوم من المحيط العلمي الذي يعيشون فيه تطورت هذه الأبحاث والنظريات.

ولقد استفاد المتصوفة من الفلاسفة والمتكلمين والفقهاء ما كان له الأثر الأكبر فِي هذا التطور الصوفى، غير أنهم أخذوا من الفلسفة بحظ وافر، بل وكوَّنوا فلسفة خاصة بهم، حتى أصبحنا نرى بينهم رجالاً أشبه بالفلاسفة منهم بالمتصوفة، وأصبحنا نرى بعضهم يدين بمسائل فلسفية لا تتفق ومبادئ الشريعة، مما أثار عليهم جمهور أهل السُّنَّة، وجعلهم يحاربون التصوف الفلسفى، ويؤيدون التصوف الذي يدور حول الزهد، والتقشف، وتربية النفس، وإصلاحها .. وما زال أهل السُّنَّة يحاربون التصوف الفلسفى حتى كادوا يقضون عليه فِي نهاية القرن السابع الهجري.

ومن ذلك الوقت دخل فِي التصوف رجال من غير أهله، تظاهروا بالورع والطاعة، وتحلَّوا بالزهد الكاذب والتقشف المصطنع، فأصبحنا نرى بعض الجهلاء الأُميين يشرفون على الطريق، ويتولون تربية الأتباع والمريدين، ووقفت التعاليم الصوفية عند دائرة محدودة، هي دائرة الأوراد والأذكار، وإن تعدتها قلا أكثر من بعض الأبحاث الضيقة فِي الفقه والتفسير والحديث.