Kemudian, kecerdasannya membuat beliau dijadikan sebagai anggota Baitul Hikmah di Baghdad, yaitu sebuah lembaga penelitian ilmu pengetahuan yang didirikan oleh Khalifah Harun ar-Rasyid.
Selain terkenal di bidang matematika, Al-Khawarizmi juga ahli di bidang geografi dan praktisi astronomi. Bahkan, karyanya di bidang astronomi yang berjudul Zij al Shindhind adalah karya terpenting hingga saat ini, seperti yang dikutip dari buku "99 Tokoh Muslim Dunia for Kids" yang ditulis oleh Salman Iskandar.
Bahkan, ahli ilmu aljabar dunia, Leonardo Fibonacci dari Pisa pun mengaku berhutang pada al-Khawarizmi.
Sementara, George Sarton, penulis sejarah matematika ternama, menyebut al-Khawarizmi sebagai salah seorang ilmuwan muslim terbesar dan terbaik pada masanya.
Di dunia Barat, ilmu aljabar banyak dipengaruhi oleh karya Al-Khawarizmi, nama aljabar sendiri diturunkan dari judul bukunya "Kitab Al-Jabar wa Al-Muqabalah" yang merupakan buku pertama tentang dasar-dasar aljabar.