Pada abad ke-6 dan ke-7 tasawuf kembali menciptakan gerakan dari temuannya suatu bentuk pengalaman baru, yakni persentuhan tasawuf dengan filsafat yang berhasil mencetak tasawuf menjadi lebih bersifat filosofis, kemudian disebut dengan istilah teosofi. Maka, dari sinilah titik awal kemunculan tasawuf Sunni. Tasawuf Sunni merupakan gerakan akhlak yang didasarkan kepada al-Quran dan as-Sunnah.
Tasawuf ini cenderung ke arah tasawuf filsafat dimana banyak tercampur dengan ajaran dari kajian filsafat metafisika. Sunni sendiri berasal dari kata sunnah yang secara bahasa merupakan sebuah tradisi, adat istiadat atau kebiasaan yang dilakukan secara turun-temurun dan menjadi kebiasaan di suatu kalangan masyarakat.
Selanjutnya sunni sendiri merupakan sebuah sebutan bagi para kelompok yang mendukung sunnah menurut syara’ ahli hadist, ahli kalam, maupun seorang ahli politik. Aliran tasawuf sunni ini merupakan bentuk tasawuf yang memagari dirinya dengan kitab suci Alquran dan al-Hadits secara ketat, serta aliran ini juga mengaitkan ahwal (keadaan) dan maqamat (tingkatan rohaniah) mereka kepada kedua sumber pedoman aliran tersebut.
Latar sejarah kemunculan dan perkembangan aliran tasawuf sunni melalui tahapan-tahapan:
Tahap pertama disebut sebagai fase asketisme atau dengan sebutan lain zuhud. Para pemikir berbeda argumen tentang faktor-faktor yang menyebabkan munculnya suatu gerakan zuhud dalam Islam pada abad I & II H. Seperti yang diungkapkan salah satu tokoh pemikir yang terkenal kala itu, Abu al-Ala Afifi berpendapat bahwa ada 4 faktor dasar yang menjadi penyebab kemunculan zuhud, yakni:
Pertama, ajaran Islam seperti yang tergambar dari kitab suci al-qur’an telah mendorong manusia agar hidupnya selalu kedalam jalan Allah. Serta agar selalu taqwa kepada Allah. Kedua, melakukan revolusi rohaniyah bagi kaum muslimin terhadap sistem sosial budaya dan juga politik yang berlaku. Ketiga, dampak dari adanya asketisme masehi. Pada zaman sebelum Islam bangsa Arab terkena dampak para pendeta masehi yang terbukti dengan adanya perhitungan kalender. Keempat, penentangan terhadap fiqih dan kalam.
Asketisme (zuhud) ini banyak dipandang sebagai pengantar kemunculan tasawuf. Fase ini tumbuh pada abad ke I & II H. Pada tahapan ini, banyak kaum Islam yang melakukan ibadah, baik dari individu maupun dari kalangan kaum muslimin, mereka semua memilih untuk lebih mefokuskan perhatian dirinya pada ibadah Islam. Kaum ini sepakat menggunakan konsepsi asketis dalam kehidupan, yaitu dengan tidak mementingkan sandang, pangan, dan papan. Mereka lebih senang jika beramal untuk hal-hal yang berkaitan dengan kehidupan akhirat, hal ini yang menyebabkan mereka untuk lebih memusatkan hidupnya pada jalur dan tingkah laku yang asketis.
Tokoh yang paling terkenal pada zaman ini adalah Hasan al-Basri dan Rabi’ah al-Adawiyah, kedua tokoh pemikir berat ini dijuluki sebagai zahid. Mengapa demikian?
Hal ini dikarenakan bahwa dalam perkembangan zuhud terdapat dua golongan zahid yan diartikan sebagai orang yang zuhud yakni dengan arti satu golongan zahid meninggalkan kehidupan duniawi serta kesenangan material dan memusatkan perhatian hanya pada peribadatan, karena hal tersebut didorong oleh perasaan takut kalau di akhirat nanti akan masuk neraka. Dengan sudut pandang lain beberapa golongan tidak juga menfokuskan emikirannya pada rasa takut yang mereka rasakan, akan tetapi merekajuga diselimuti perasaan cinta kepada Tuhan. Menurut mereka Tuhan ialah bukan suatu dzat yang ditakuti dan harus di jauhi, tetapi suatu dzat yang harus dicintai dan didekati.
Tahap kedua, yaitu sejak abad III H, para sufi mulai menaruh perhatian terhadap hal-hal yang berkaitan dengan jiwa dan tingkah laku. Perkembangan doktrin-doktrin dari pemikiran ini dan tingkah laku sufi ialah ditandai dengan upaya menegakkan moral ditengah terjadinya dekadensi moral yang berkembang saat itu, sehingga doktrin ini pun berkembang menjadi ilmu moral keagamaan atau ilmu akhlaq keagamaan. Sehingga pembahasan mereka tentang moral akhirnya mendorong untuk semakin mengkaji hal-hal yang berkaitan dengan akhlak atau nilai perilaku.
Tahap ketiga, terjadi di masa pada abad IV H, pada fase ini ilmu tasawuf mengalami perkembangan yang lebih maju dibandingkan pada abad ke-3 Hijriyah, karena usaha maksimal para ulama tasawuf untuk mengembangkan ajaran tasawufnya masing-masing. Akibatnya kota Baghdad yang menjadi pusat kegiatan tasawuf yang paling besar pada masa itu tersaingi oleh kota-kota besar lainnya. (hal ini terjadi karena untuk ajaran tasawuf agar lebih berkembang di luar kota Baghdad, kegiatan ini dipelopori oleh beberapa ulama tasawuf yang terkenal dengan kebaikan dan kealimannya, antara lain:
Pertama, tokoh ulama Musa al-Anshari, yang mengajarkan ilmu tasawuf di Khurasaan (negera Persia/ Iran) dan beliau wafat tahun 320 H disana. Kedua, tokoh ulama Abu Hamid ibn Muhammad ar-Rubazy, yang mengajarkan tasawuf di Mesir salah satu kotanya, dan beliau wafat tahun 322 H di Mesir. Ketiga, tokoh ulama Abu Zaid al-Adamy, yang mengajarkan tasawuf di semenanjung Arabiyah dan beliau wafat pada tahun 314 Hijriyah. Keempat, tokoh ulama Abu Ali Muhammmad ibn Abdil Wahab as-Saqafi, beliau mengajarkan ilmu tasawuf di Naisabur sekaligus kota Syaraz, hingga beliau wafat pada tahun 328 H.
Namun perkembangan ilmu tasawuf ini, tidak mengurangi perkembangan tasawuf di kota Baghdad. Bahkan, penulisan kitab-kitab tasawuf di sana mulai bermunculan, misalnya kitab Qutubul Qultib Fi Mu’amalatil Mahbub, yang dikarang oleh tokoh Islam terkenal kala itu yakni Abu Thalib al-Makky wafat pada tahun 386 H. Dalam kitabnya yang lain beliau juga menuangkan segala pengetahuannya, diantaranya adalah kitab Qut al-Qulub. Abu Thalib al-Makky adalah salah seorang shufi angkatan pertama yang berpengaruh besar terhadap al-Ghazali, yang tadinya memberi judul kitabnya terseut dengan Thariq al-Murid al-Mushil ila al-Tahid. Beliau adalah pelopor yang menjadikan thoriq mengandung pengertian-pengertian syari’at Islam dan al-Sunnah, dan menjadikannya sinonim dengan al-thariqoh, as-sunnah, al-shirath al-mustaqim, al-muhajjah, al-minhaj atau al-sabil.
Tahap keempat yaitu pada abad V H, muncul tokoh imam al-Ghazali yang sepenuhnya hanya menerima tasawuf yang berdasarkan al-Qur’an dan al-Sunnah serta bertujuan asketisme, kehidupan sederhana, pelurusan jiwa dan pembinaan moral. Pengetahuan tentang tasawuf dikajinya dengan begitu mendalam. Di sisi lain ia melancarkan kritikan tajam kepada para filosof, kaum Mu’tazillah dan bathiniyah. Beberapa hal yang menjadi kritikan dari seorang tokoh al-Ghazali terhadap para filosof, yakni :
a) Tuhan tidak mempunyai sifat. b) Tuhan mempunyai substansi basit (sederhana) dan tidak mempunyai mahiyah (hakekat). c) Tuhan tidak mengetahui juz’iyyat. d) Tuhan tidak dapat diberi sifat al-jins dan al-fasl. e) Alam ini tidak bermula. f) Alam ini kekal. g) Pembangkitan jasmani tidak ada. h) Hukum alam tak dapat berubah. i) Jiwa planet-planet mengetahui semua juz’iyyat. j) Planet-planet adalah bintang yang bergerak dengan kemauan.
Jadi Al-Ghazali inilah yang mampu dan berhasil mencetuskan prinsip-prinsip dasar tasawuf yang bersifat moderat, dimana aliran pemikiran ini seiring dengan aliran ahlussunnah wal jamaah, dan bertentangan dengan tasawuf al-Hallaj dan Abu Yazid al-Bustami. Dalam orientasi umum dan rincian-rinciannya yang dikembangkan al-Ghazali berbeda dengan konsepsi al-Hallaj dan Abu Yazid al-Bustami.
Menurutnya inilah yang menjadikan manfaat untuk kaum shufi adalah menjadi golongan orang-orang yang menempuh jalan menuju Allah, dan bahwasanya pilihan mereka adalah yang paling tepat, jalan mereka yang terbaik, dan moral mereka lebih tinggi. Sekiranya para rasionals, filosof, dan kaum intelektual bergabung untuk mengubah jalan hidup dan moralitas mereka, atau hendak menggagntinya dengan sesuatu yang lain, niscaya tidak menemukan yang lebih baik. Hal ini tiada lain karena segenap hidup kaum shufi, dalam keadaan aktif maupun pasi, lahir dan batin seluruhnya bersumber dari cahaya kenabian. Tasawuf pada abad ke-5 H cenderung mengalami pembaharuan, yakni dengan mengembalikannya ke landasan al-qur’an dan al-sunnah.
Tahap kelima, yaitu abad VI H tasawuf sunni semakin meluas dan menyebar ke seluruh pelosok duna Islam. Hal ini akibat dari pengaruh kepribadian al-Ghazali yang begitu besar bagi dunia tasawuf. Keadaan ini memberi peluang munculnya para tokoh sufi yang mengembangkan tarekat-tarekat dalam rangka mendidik para muridnya, seperti sayyid Ahmad al-Rifa’i wafat pada tahun 570 H, dan sayyid Abdul Qadir Jaelani wafat pada tahun 651 H yang sangat terpengaruh oleh garis tasawuf al-Ghazali. Generasi selanjutnya juga melakukan hal yang sama, antara lain yang paling menonjol adalah syeikh Abu Hasan al-Syadzili wafat pada 650 H dan muridnya Abu Abbas al-Mursi wafat pada 686 H serta Ibn Attha Illah al-Sakandari wafat pada 709 H. Al-Ghazali dipandang sebagi pembela terbesar tasawuf sunni. Pandangan tasawufnya seiring dengan para shufi aliran pertama, para shufi abad ke-3 dan ke-4 Hijriyah.