Lahir dan menjalani masa kecil di Sengkang, Sulawesi Selatan, KH. Abdurrahman Muhammad tumbuh sebagai pribadi pembelajar dan pendakwah yang banyak habiskan waktunya berkhidmat untuk umat. Ia turut mengawali perlangkahan Hidayatullah kali pertama bersama KH Abdullah Said sebelum akhirnya mereka menjejakkan kaki di bumi Kalimantan yaitu Balikpapan.

Sepeninggal KH Abdullah Said pada tanggal 4 Maret 1998, KH. Abdurrahman Muhammad diamanahkan menjadi Pemimpin Umum Hidayatullah atau kini berubah menjadi Rais 'Aam Hidayatullah yang diputuskan dalam forum Musyawarah Nasional ke-VI di Jakarta.