Seiring dengan munculnya kritik-kritik tajam terhadap taswuf yang menimbulkan ketegangan dalam dunia pemikiran islam, yang sudah mulai timbul aneka argumentasi tentang apakah tasawuf benar-benar keislaman ataukahia hanya sekedar pengislamisasian unsure-unsur non islam? Kontroversi pendapat itu dimulai sejak tampilnya tasawuf falsafati dan semakin dipertajam dengan masuknya pendapat orientalis, yang secara generalisasi mengatakan, bahwa tasawuf bersumber dari luar islam yang mendasarkan pendapatnya hanya karena adanya kesamaan tifologinya belaka. Alasan lainnya adalah, bahwa tokoh-tokoh sufi kebanyakan dari Persia yang asalnya beragama majusi atau bangsa lain yang tadinya beragama Kristen. Argument inipun lemah mengingat bahwa cikal bakal tasawuf lahir di zazirah arab dan dari bangsa arab itu sendiri.

            Dasar-dasar tasawuf sudah ada sejak datangnya agama islam, hal ini dapat di ketahui dari kehidupan nabi Muhammad SAW cara hidup beliau yang kemudian diteladani dan diteruskan oleh para  sahabat. Selama periode makkiyah, keadaan spiritual beliau adalah berdasarkan atas pengalaman-pengalaman mistik yang jelas dan pasti, sebagaimana dilukiskan dalam QS an-najm :11-13, at-takwir:22-23 . ayat yang menyangkut aspek moralitas dan asketisme sebagai salah satu masalah prinsipil dalam tasawuf, para sufi merujuk kepada al quran sebagai landasan utama.karena manusia memiliki sifat baik dan jahat, maka harus dilakukan pengikisan sifat yang jelek dan pengembangan sifat yang baik (Qs as-syams:9) berdasarkan ayat-ayat ini maka dalam tasawuf dikonsepkanlah teori tazkiyah alnafs atau penyucian jiwa. Pandangan hidup yang demikian, jelas besumber dari al quran sebagaimana firmannya, “hai jiwa yang tenang, kembalilah kesisi Tuhanmu dengan hati yang damai dan diridhoi-Nya, dan masuklah dalam surgaku”. Konsepsi Al-hubb dan ma’rifat, juga ajaran pokok dalam tasawuf yang didasarkan pada Qs al-maidah:54. sementara konsep al ma’rifat yang dicapai melalui takwa, akhlakul karimah dan ilham, didasarkan pada firman Alloh Qs al-baqoroh:282 dan Qs al-kahfi:55. agar berada sedekat mungkin dengan alloh adalah tujuan terpenting dari sufi, keinginan ini merupakan perintah allah melalui firmannya antara lain:”kami lebih dekat kepada manusia dari pada urat lehernya sendiri, dan oleh karena itu kemana saja kamu berpaling disitu ada wajah tuhan”. Dari sedikit contoh diatas sudah cukup alas an untuk mengatakan, bahwa tidak ada keraguan lagi tentang sumber tasawuf, ia digali dari al qur’an yang dikembangkan berdasarkan kepada kehidupan nabi dan para sahabat. Memang, dalam unsure-unsur tertentu ada kemiripannya dengan karakteristik mistisisme pada umumnya. Namun, gambaran itu tidak cukup kuat untuk dijadikan argumentasi bahwa tasawuf bersumber dari luar islam. Kemiripan atau kesamaan itu terjadi karena berakar pada universalitas hakikat manusia itu.