CIKAL BAKAL HIDAYATULLAH dimulai sejak 7 Januari 1972 atau 2 Dzulhijjah 1392 Hijriyah berupa sebuah pesantren di Karang Bugis, Kalimantan Timur. Pesantren ini diresmikan oleh Menteri Agama Republik Indonesia, yang kala itu dijabat oleh Prof Dr Mukti Ali, pada tahun 1976. Selanjutnya Ust. Abdullah Said, pendiri Hidayatullah, membuka kampus baru di Gunung Tembak yang kemudian dikenal sebagai Kampus Induk Hidayatullah.

Saat ini, di Kampus Induk Hidayatullah yang berada di atas lahan wakaf seluas sekitar 120 hektar ini telah berdiri masjid, gedung-gedung sekolah dan perguruan tinggi, aula pertemuan, kantor, guest house, perumahan warga, juga dilengkapi sarana umum serta lingkungan hijau yang ditata sedemikian rupa sehingga tampak asri.

Tak heran bila pada tahun 1984, Presiden Soeharto menganugerahkan Kalpataru kepada Ust. Abdullah Said karena beliau dinilai mampu mengubah kawasan kritis di Gunung Tembak menjadi lingkungan pesantren yang hijau dan asri. Di tengah lokasi pesantren terdapat danau buatan yang tidak pernah kering meski berada di musim kemarau.

Dalam perkembangan selanjutnya, Ust. Abdullah Said mengirimkan santri-santrinya berdakwah ke berbagai daerah di seluruh Indonesia, khususnya daerah-daerah pedalaman dan minoritas Muslim. Di tempat tugas tersebut, para santri Hidayatullah tak sekadar berdakwah, tetapi juga membangun cabang-cabang pesantren. Pada akhirnya, terse barlah pesantren ini ke lebih dari 300 kabupaten kota di seluruh Indonesia.

Setelah Ust. Abdullah Said wafat tahun 1998, kepemimpinan Hidayatullah dilanjutkan oleh Ust. Abdurrahman Muhammad. Tak berapa lama setelah itu terbentuklah Dewan Eksekutif yang bertugas menyelenggarakan pertemuan nasional untuk menentukan arah dan bentuk Hidayatullah ke depan.

Melalui Musyawarah Nasional pertama tanggal 9-13 Juli 2000 di Balikpapan, Hidayatullah secara resmi mengubah bentuknya dari organisasi sosial menjadi organisasi kemasyarakatan (ormas) dengan 5 jenjang kepengurusan, yakni nasional/pusat, wilayah/provinsi, daerah/kabupaten-kota, cabang/kecamatan, dan ranting/desa-kelurahan. Pengurus Pusat berkedudukan di Ibukota Negara Republik Indonesia, Jakarta.