Ali Mazi adalah anak pertama dari tujuh bersaudara, dari pasangan H. La Ode Ali Bina dan Hj. Wa Nazia, Ayahnya karyawan PT. Antam Pomalaa. Kakeknya bernama La ode Zainuddin atau dikenal dengan nama La Ode Usman, dan biasa disapa Aba.
Menamatkan SD dan SMP-nya di Pasar Wajo (1974-1977), Ali kemudian melanjutkan studinya di SMU 1 Baubau dan tamat di SMU 1 Baubau. Usia SMU (1981), nalurinya untuk merantau dan meraih cita-citanya di tanah Jawa, pun timbul. Tujuan Ali merantau ke Kota Gudeg itu adalah untuk melanjutkan pendidikan tinggi, tepatnya di Jurusan Ilmu Hukum Universitas Proklamasi ’45 Yogyakarta.
Di kampus itulah, bakat kepemimpinannya makin terasah. Pengalaman organisasi diawalinya di HMI Korkom Universitas Proklamasi ’45 Yogyakarta. Tak lama kemudian, ia terpilih menjadi ketua umum Senat Mahasiswa Fakultas Hukum. Sementara, semasa kuliah, sejak 1983, ia sudah aktif bergiat di Lembaga Bantuan Hukum (LBH) Yogyakarta. Dan, begitu merampungkan kuliahnya (1988), iapun berangkat mendobrak Jakarta. Ibu kota Republik Indonesia tersebut dianggapnya lebih menjanjikan, terutama dengan berbekal ijazah sarjana hukum.
Keluarga besar ALI Mazi. foto istimewa
Seketika, ayah enam anak, diantaranya Aldo Muhammad Hakim, Alfin Akawijaya Putra dan Alfian Taufan Putra, itu menjadi pengacara handal di tingkat nasional, karena reputasinya menyelesaikan kasus-kasus berskala besar. Itulah sebabnya, namanya kerap muncul di media massa nasional.