Term tasawuf dikenal secara luas di kawasan islam sejak penghujung abad dua  hijriyah, sebagai perkembangan dari keshalehan asketis atau para jahid yang mengelompok di serambi mesjid Madinah. Fase awal perkembangan tasawuf dapat di sebut sebagai fase asketisme, memasuki abad ketiga hijriyah terlihat adanya  peralihan konkrit dari asketisme islam ke sufisme yang biasa di sebut fase kedua, yang ditandai oleh peralihan sebutan zahid menjadi sufi. Fase ini juga di tandai dengan muncul dan berkembangnya ilmu tasawuf yang tadinya hanya merupakan pengetahuan praktis atau semacam langgam keberagamaan. Fase ketiga yang ditandai dengan mulainya unsur-unsur di luar islam beralkurturasi dengan tasawuf. Ciri lain yang penting pada fase ini adalah timbulnya ketegangan antara kaum orthodoks dengan kelompok sufi berfaham ittihad di pihak lain. Fase keempat memperlihatkan adanya keterpengaruhan tasawuf dari unsur-unsur di luar islam, dikawasan tertentu telah mulai mempergunakan terminology filsafat. Namun dari sudut pertumbuhan awalnya tetap bercorak islam. Fase kejayaan dan kematangan tasawuf berlangsung sampai abad ketujuh hijriyah sebab sejak abad delapan, nampaknya tasawuf mulai mengalami kemunduran dan bahkan stagnasi karena sejak abad ini tidak ada lagi konsep-konsep tasawuf yang baru. Disisi lain, para pengikut tasawuf sudah lebih cenderung kepada penekanan perhatian terhadap berbagai bentuk ritus dan formalisme yang tidak terdapat dalam substansi ajaran. Perkembangan tasawuf selanjutnya yaitu dalam bentuk tarekat sufi, tyang lebih menonjolkan perkembangan pada aspek ritus dan pengamalannya bukan pada aspek substansi ajaranya. Namun tasawuf bukanlah ilmu yang statis melainkan dinamis dan penampilannya dalam cara-cara tertentu yang mencerminkan masanya. Akan tetapi satu hal yang perlu diingat, bahwa tidak setiap orang yang mengerti tasawuf dapat disebut sufi, karena seseorang tidak mungkin dapat mengetahui ia benar-benar memahami dan merasakan apa yang dilihat dan dirasakan oleh sufi dalam mi’roj spritualnya menjadi seorang sufi berarti menjadikan ajaran itu sebagai penggerak hidup, manusia sempurna adalah idola sufi, manusia yang telah dapat melepaskan keakuannya sehingga ia adalah cermin yang merefleksi setiap aspek realitas absolut.