Ust. Marzuki dilahirkan pada 31 januari 1917 di Kota Sinjai, Sulawesi Selatan. Ayahnya bernama K. Hasan (Kali Cambang), seorang qadhi di Sinjai Timur, sedangkan ibunya Syarifah Aminah yang masih keturunan Yaman, hadhramaut. Marzuki pernah belajar di Pesantren As'adiyah Sengkang Wajo, kemudian melanjutkan ke Perguruan Datumuseng di Kota Makassar. Selain itu, beliau pernah mengaji kitab pada Prof. Darwis Zakaria (guru di Perguruan Datumuseng asal Sumatra Barat) di kota yang sama. Zakaria menjelaskan ayat-ayat Al-Qur'an dengan pendekatan yang modern.