Sejak kecil beliau mendapat pendidikan daripada bapanya. Semasa di bawah pendidikan bapanya beliau telah menghafal Al-Quran dengan riwayat Warash, dan setelah khatam beliau menghafal pula dengan riwayat Hafs.
Setelah itu beliau menghafal sesetengah matan ilmu agama seperti Nazam al-Kharraz yang berjudul Maurid al-Zam'an serta Matan Alfiyyah Ibn Malik, Matan Arba'in an-Nawawi, Ajrumiyyah, Bulugh al-Maram, al-Jawhar al-maknun dan Mukhtasar al-Syeikh al-Khalil.
Beliau kemudiannya mempelajari kitab Syarh al-Azhari `Ala al-Ajrumiyyah daripada saudaranya Abu al-Fayd selain belajar dengan sepupu sebelah bapanya, Sayyid Muhammad bin ‘Abd al-Samad .
Setelah itu dengan perintah bapanya beliau telah merantau ke Fes untuk menuntut ilmu di Universiti al-Qurawiyyin. Di situ beliau belajar Syarh al-Alfiyyah karangan al-Makudi daripada al-Syeikh al-Syarif al-Habib al-Muhaji.
Beliau juga mempelajari kitab tersebut beserta hasyiahnya (nota tepi) daripada al-Syeikh Muhammad bin al-Hajj bin al-Mahsyi. Beliau mempelajari Syarh Ibn `Aqil dan Hasyiah al-Sija'i daripada al-Syeikh Muhammad al-Hajj. Beliau mempelajari bagian awal Syarh al-Kharsyi `Ala Mukhtasar Khalil daripada al-Syeikh al-Habib al-Muhaji dan kitab al-Jinayat dalam Syarh al-Kharsyi daripada al-Syeikh Ahmad al-Qadiri. Bab al-Buyu' dipelajari daripada al-Syeikh Muhammad bin al-Hajj. Beliau mempelajari Syarh al-Bukhari oleh Imam al-Qastalani daripada al-Syeikh Muhammad bin al-Hajj di Masjid Maulaya Idris.
Antara guru-guru beliau ialah:
1. Morocco: bapanya, Sayyid Muhammad al-Siddiq al-Ghumari dan abangnya, Sayyid Ahmad, Sayyid Ahmad ibn al-Tayyib al-Qadiri, al-‘Allamah al-Muhaddith ‘Abd al-Hayy al-Kittani, dan al-‘Allamah al-Qadi al-Husin al-‘Iraqi.
2. Tunisia: Syeikh Jami’ Zaytun Tahir ibn Asyur al-Tunisi al-Maliki
Sayyid ‘Abd Allah Al u Ghumari meninggal dunia di Tangiers, Maghribi pada hari Kamis 19 Sya'ban 1413H bersamaan 11 Febuari 1993M dan dikebumikan bersebelahan kubur bapanya.