Beranjak remaja ia kembali ke Samarinda tempat keluarganya berasal, di umur 17 tahun Jusuf memutuskan untuk dikhitan tanpa sepengatahuan orang tuanya. Karena hal tersebut, di rumah ia sering menutupi dengan memakai sarung namun gerak-geriknya terbaca oleh sang kakak dan akhirnya mengaku jika ia sudah dikhitan.
Baiknya, saat itu orang tua Jusuf menanggapi hal tersebut biasa saja dan tidak marah, justru membebaskan Jusuf untuk mempelajari lebih dalam agama yang berbeda dengan keyakinan keluarga.
Akhirnya setelah kembali ke Jakarta, saat itulah ia memutuskan untuk menjadi mualaf dan bertemulah dengan Buya Hamka.
Ia memeluk Islam saat bertemu Buya di usia 23 tahun, pada tahun 1981. Waktu itu ia melihat di Majalah Tempo, ada orang masuk Islam (disyahadatkan) di Masjid Al-Azhar. Ia langsung ke sana, bertemu Ustaz Zaimi, Sekretaris Masjid Agung Al-Azhar dan menyatakan niatnya masuk Islam.
Ia pun kemudian dibawa ke rumah Buya Hamka di (Jalan) Raden Fatah. Di bawah bimbingan Buya, ia pun mengucapkan dua kalimat syahadat dan namanya diganti Buya Hamka menjadi Jusuf Hamka.