Beliau menggantikan ayahandanya Habib ‘Abdul Qadir bin Ahmad BalFaqih sebagai penerus mengasuh dan memimpin pesantren yang diasaskan ayahandanya tersebut pada 12 Rabi`ul Awwal 1364 / 12 Februari 1945 di Kota Malang, Jawa Timur. Pesantren yang terkenal dengan nama Pondok Pesantren Darul Hadits al-Faqihiyyah Ahlus Sunnah wal Jamaah. Pesantren ini telah melahirkan beberapa ulama yang kemudian bertebaran di segenap pelosok Nusantara.

Sebagian mereka telah mengikuti jejak langkah gurunya dengan membuka pesantren-pesantren demi menyiarkan dakwah dan ilmu, antaranya ialah Habib Ahmad al-Habsyi (PP ar-Riyadh, Palembang), Habib Muhammad Ba’bud (PP Darun Nasyi-in, Lawang), Kyai Haji ‘Alawi Muhammad (PP at-Taroqy, Sampang, Madura) dan lainnya.