Syaerozie dilahirkan pada tanggal 05 Dzulhijjah 1353 H. yang bertepatan dengan tanggal 10 Maret 1935 M. di desa Kalisapu Kecamatan Gunung Jati Kabupaten Cirebon. Beliau lahir dari keluarga taat agama. Ayahnya, KH. Abdurrahim adalah seorang ulama kharismatik yang juga pengasuh sebuah pesantren di desa Kepuh kecamatan Palimanan Kabupaten Cirebon.
Begitu pula ibunya, Nyai Hj. Khairiyyah adalah seorang perempuan penyabar yang selain berprofesi sebagai ibu rumah tangga, juga aktif mendampingi suaminya dalam mendidik para santri.
Sedangkan kakeknya, KH. Junaid adalah seorang ulama sufi pengamal thoriqoh Syathariyah sekaligus pendiri pondok pesantren Kedung Dempul di desa Kepuh Kecamatan Palimanan Kabupaten Cirebon. Ia juga di kenal sebagai seorang ulama yang produktif berkarya.
Syaerozie sejak kecil hidup bersama kedua orang tuanya di tempat kelahirannya. Hingga menginjak usia 3 tahun, beliau pindah ke desa Kepuh kecamatan Palimanan kabupaten Cirebon. Perpindahan ini seiring dengan tuntutan kedua orang tuanya yang harus meneruskan aktivitas KH. Junaid (Kakek KH. Syaerozie), sebagai seorang pengasuh pesantren yang ia rintis.
Anak kedua dari delapan bersaudara ini, pada masa kecilnya, terlihat lebih menonjol dari pada teman-teman seusianya. Ini dilihat dari berbagai hal, diantaranya, sikapnya yang supel dalam bergaul, semangat yang tinggi dalam menjalankan riyadhoh puasa, kemampuan yang lihai dalam memainkan seni rebbana dan kemampuannya menguasai kitab-kitab kuning, yang dalam tradisi pesantren cukup berat bagi kalangan anak-anak usia remaja, seperti kitab Al Ajjurumiyah dan Safinah AnNajah. KH. Syaerozie sejak usia 7 tahun sudah melaksakan riyadhoh puasa.
Pada masa kecil, Syaerozie hidup di bawah pengawasan kedua orang tuanya. Di sini, beliau mulai belajar agama dan didik untuk menjadi anak yang berpegang teguh pada prinsip-prinsip akhlaqul karimah(budi pekerti).
Di samping belajar agama, ia juga mengikuti pendidikan sekolah rakyat (SR) di bawah kepala sekolah Bapak Nadriyah. Namun, di sekolah ini, tampaknya Syaerozie kurang mendapatkan dukungan dari orang tuanya. Ayahnya yang ketat dalam mengawasi pendidikan anaknya kurang begitu antusias terhadap keinginan anaknya untuk mengikuti sekolah SR. Hanya saja, dengan kemampuan melobi ayahnya, KH. Syaerozie akhirnya mampu menyelesaikan pendidikan sekolah rakyat hingga tamat.
Kemudian, beliau melanjutkan studinya ke pondok pesantren Babakan Ciwaringin Cirebon di bawah asuhan KH. Amin Sepuh, KH. Sanusi dan KH. Abdul Hannan. Di pesantren ini, Syaerozie mempelajari kitab-kitab kuning yang belum pernah ia pelajari dari ayahnya.
Belum puas mendalami ilmu-ilmu Islam, Syaerozie kemudian melanjutkan studinya ke pondok pesantren Lasem Rembang Jawa Tengah di bawah asuhan Syekh Masduqi. Dengan kegemaran membaca, wawasan keilmuan Syaerozie mulai tampak berkembang. beliau mampu menggubah teks narasi kitab mughni labib ke dalam bentuk syair. Kemampuan dalam ilmu balaghoh inilah membuat dia selalu di puji oleh gurunya.
Berkat kegigihannya dalam mengarungi ilmu-ilmu Islam sewaktu belajar pada ayahnya dan guru-gurunya di pondok pesantren Babakan, Syaerozie, di pesantren Lasem Rembang Jawa Tengah sudah dianggap sebagai sosok santri yang telah menguasai ilmu gramatikal arab (Nahwu-Shorof), Kaidah Fiqih, Ushul Fiqih dan balaghoh.
Dari sudut mata rantai keilmuan yang di tempuh oleh KH. Syaerozie setidaknya ada dua jalur yang di tempuhnya yakni jalur Lasem dan jalur Sarang. Melalui jalur Lasem, KH. Syaerozie berguru pada Syaekh Masduqi Lasem yang mempunyai guru bernama Syekh Umar bin Hamdan Al Maky.
Syekh Umar bin Hamdan adalah murid dari Abu Bakar Syatha. Sedangkan Abu Bakar Syatha mempunyai guru bernama Ahmad Zaini Dahlan murid Utsman Hasan Al Dimyathi. Ia adalah murid Abdullah Khajazi As Syarqowi. Abdullah Khajazi mempunyai guru bernama Muhammad Salim Al Khafani.
Al Khafani mempunyai guru bernama Muhammad bin Muhammad Ad Diry murid Syibromilisi yang belajar pada Ali Khalaby. Sedangkan Ali Khalabi adalah murid dari Ali Az Ziyadi. Al Ziyadi murid dari Yusuf Al Aramiyuni yang berguru pada Jalaluddin Al Suyuthi yang menyambungkan keilmuannya dari seorang mufassir bernama Jalaluddin Al Mahalli.
Sedangkan matarantai keilmuan dari jalur Sarang sebagai berikut : KH. Syaerozie berguru pada Kiai Imam Kholil dan Kiai Zubair Dahlan. Pengasuh pondok Sarang ini berguru pada Syaekh Kaya’i Faqihul Imam Al ‘Alim yang menjadi muridnya Umar ibnu Hamdan Al Maky, kemudian ke atasnya sama seperti jalur keilmuan Lasem.
Setelah tamat pendidikan di Sarang, Syaerozie tidak kembali ke kampung halamannya. Beliau kembali mengais ilmu ke pondok pesantren Babakan Ciwaringin Cirebon, dengan tujuantabarrukan (ngalap berkah) sebagaimana dikenal dalam tradisi pesantren.
Di pesantren ini pula kemudian Syaerozie dinikahkan dengan salah satu putri gurunya, KH. Abdul Hannan yang bernama Tasmi’ah. Kemudian, bersama istrinya, beliau membangun keluarga yang sangat sederhana dan dikaruniai tujuh orang anak, dua orang perempuan dan lima laki-laki. Di desa Babakan kecamatan Ciwaringin kabupaten Cirebon ini pula, bersama istrinya, KH.Syaerozie merintis sebuah lembaga pendidikan bernama pondok pesantren Assalafie.