Hayatı hakkındaki malumat azdır. Hîve'de dünyaya geldi. Ömrünü Bağdat'ta geçirdi. Babasının adı Mûsâ olarak kaydedilir. Hârizmî isminin Latince eserlerde Alkarismi, Algoritmi, Algorism veya Algorismi gibi farklı yazılma biçimleri vardır. Çeşitli kaynaklarda künyesi Ebû Câfer olarak yer almıştır.
Hârizmî, İslam kültür tarihinin en parlak dönemlerinden kabul edilen Abbâsî Halifesi Me'mûn'un döneminde kurulan ve İslam dünyasının ilk bilim akademisi ve araştırma merkezi kabul edilen Beytülhikme'nin (bilgelik evi) kütüphanesinde görev aldı. Beytülhikme bilim, felsefe ve tıp eserlerinin özellikle Yunanca ve Süryânîce'den Arapça'ya sistemli olarak tercüme edildiği bir merkezdir. İbnü'n-Nedîm ve İbn Kıftî'nin aktardığına göre Hârizmî, Beytülhikme'de başkanlık da yapmıştır. Günümüze ulaşmış eserlerini Halife Me'mûn'a ithaf etmiş olmasından, eserlerini Beytülhikme'de görev yaptığı yıllarda yazdığı sonucu çıkarılmaktadır. Ölüm tarihi belirsizliğini korusa da 850 civarında vefat ettiği söylenir.
Hayatı hakkındaki kısa ve yüzeysel bilgilerimize rağmen Hârizmî'nin bilimler tarihindeki önemi ve etkisi bütün düşünce tarihi çalışmalarında vurgulanmaktadır. Günümüzde lineer denklemler kurularak çözülen matematik problemlerinin çözümüne yönelik temeller Bâbilliler zamanında cebirin keşfedilmesiyle atılmıştır. Mısırlı, Çinli ve Yunan matematikçiler bu türden problemlerin çözümü için geometrik yolları kullanırken Hârizmî, Kitâbü'l-Muhtasar fî Hisâbi'l-Cebr ve'l-Mukabele isimli eserinde cebirin temel kurallarının geometriden ve aritmetikten farklı olduğunu sistemli bir biçimde ortaya koyarak matematik tarihinde, Helenistik dönem matematikçisi Diophantus'tan sonra eşsiz bir konuma yükselmiştir.
Böylece matematiğe yaptığı büyük katkılarla cebir ilminin sistemli kurucusu ve şu an kullandığımız haliyle sıfırı ve x'i ilk kullanan matematikçi olarak bilimler tarihinde önemli bir yer edinmiştir. Sıfır, bilinmeyen, sabit sayı, sayının kendisiyle çarpımı alanındaki kare, indirgeme, denkleştirme, algoritma, denklem, ondalık sayı sistemi gibi birçok terim Hârizmî'nin başarısıyla evrenselleşmiştir. Sadece İslam dünyasında değil bütün Batı eğitim tarihinde eserleri ve matematik ile cebirdeki başarıları eğitim tarihinin en uzun süreli ve geniş kapsamlı başarılarındandır.
Önemli Eserleri: 1. Zîcü's-Sind-Hind (Zîcü'l-Hârizmî): Eser 773 yılında Arapça'ya Zîc ismiyle çevrilmiştir. Eser günümüze ulaşan ilk İslam astronomi eseri olarak kabul edilmektedir. 2. Kitâbü'l-Muhtasar fî Hisâbi'l-Cebr ve'l-Mukabele: Matematik tarihinde Hârizmî'ye ün kazandıran "cebir kitabı" olarak anılan eseridir. Hârizmî bu eserde birinci ve ikinci dereceden denklemlerin çözümleri, binom çarpımları, çeşitli cebir problemleri ve miras hesabı gibi konuları ele almıştır. Eserin adında yer alan cebir ve'l-mukâbele bir ilim dalı olarak ele alınmıştır. 3. Kitâbü'l-Hisâbi'l-Hindî: Hint rakamları ve ondalık sayı sistemi İslam bilim dünyasına Hârizmî'nin bu eseriyle girmiştir. Orijinal yazmasının nerede olduğu bilinmemektedir. 4. Kitâbü'l-Coğrafya (Kitâbu Sûreti'l-Arz): Hârizmî eserinde şehirlerin ve belirli bazı bölgelerin koordinatlarını vermektedir.