Adalah putra sulung Kiai Abdul Djamil, yang dilahirkan pada hari Jumat 24 Zulhijah 1300 H atau 1879 M di desa Pekalangan, Cirebon. Sedangkan KH. Abdul Djamil adalah putra KH. Muta’ad, menantu pendiri Pesantren Buntet, yakni mbah Muqayyim, salah seorang Mufti pada masa pemerintahan Sultan Khairuddin I, kesultanan Cirebon.
Masa kecilnya banyak dihabiskan dengan belajar pada ayahnya sendiri, KH Abdul Djamil. Sewaktu masih seumuran anak-anak yang suka telanjang dan bermain layang-layang, Kyai Abbas setiap meminta uang jajan kepada ayahandanya harus memenuhi syarat yang diberikan. Waktu itu Abbas kecil harus membacakan nadzam Maqshud (riwayat lain Alfiyah) dengan hafalan di hadapan ayahnya. Dengan segera Abbas kecil pun membacakannya dengan hafalan di luar kepala, semuanya tanpa tersisa dan terlewat satu bait pun. Bercampur heran dan takjub, akhirnya uang jajan pun selalu diberikan jika ia meminta.
Beberapa saat kemudian, Abbas kecil mengutarakan keinginannya kepada sang ayah untuk mondok. Meski ayahnya sendiri adalah seorang kyai yang alim dan mengajar ke para santri, orang Jawa menyebut itu belum dikatakan mondok karena belajar kepada orangtuanya sendiri. Disebut mondok jika ia belajar ke pesantren yang bukan milik orangtuanya. Begitupun dengan Abbas kecil, punya keinginan yang besar untuk mesantren ke pesantren-pesantren yang ada di Jawa, khususnya Jawa Barat.
Diantara Pondok Pesantren yang dijadikan tempat menimba ilmu KH Abbas Djamil yaitu Pesantren Sukanasari, Pleret, Cirebon, di bawah asuhan Kiai Nasuha. Kemudian pindah lagi ke Pesantren salaf di daerah Jatisari, Pimpinan Kiai Hasan, masih di jawa Barat, lalu ia melanjutkan ke sebuah Pesantren yang diasuh oleh Kiai Ubaidah di Tegal, Jawa Tengah.
Setelah berbagai ilmu keagamaan dikuasai, ia pindah ke Pesantren yang sangat kondang di Jawa Timur, Tebuireng, Jombang, di bawah asuhan Hadratus Syekh Hasyim Asy’ari, tokoh kharismatik yang kemudian menjadi pendiri NU. Di Pesantren Tebuireng, kematangan dan kepribadian Kiai Abbas mulai terbentuk. Di Pesantren itu ia mulai bertemu dengan para santri lain dan Kiai yang terpandang, seperti KH. Wahab Chasbullah (Tokoh dan sekaligus salah seorang arsitek berdirinya NU), KH Abdul Manaf (pendiri pesantren Lirboyo, Kediri).
Abbas Djamil dikenal juga sebagai santri yang gigih dan giat belajar, walaupun ilmunya sudah sangat dalam, ia tetap berniat memperdalam ilmunya dengan belajar ke Makkah Al-Mukarramah. Beruntunglah ia bisa belajar ke sana. Saat itu di Tanah Mekah itu masih ada ulama Jawa terkenal sebagai guru utamanya, yaitu KH Mahfudz Termas, asal Pacitan Jawa Timur.
Sedangkan rekan santri yang lain adalah KH. Bakir (Yogjakarta), KH Abdillah (Surabaya) dan KH. Wahab Chasbullah (Jombang). Di waktu senggang, Kiai Abbas ditugasi mengajar para Mukimin (orang-orang Indonesia yang tinggal di Mekah). Santrinya antara lain, KH Cholil Balerante (Palimanan), KH Sulaiman Babakan (Ciwaringin).
