Hayatı hakkında etraflı bilgi yoktur. Babasının ismi Ahmed olarak geçer. Hârizm bölgesinde yaşamış, Sâmânî Devleti'nin idarî teşkilatında yer almış üst düzey bir devlet görevlisidir. Gençlik yılları Hârizm'in Zemahşer, Hîve ve Kiyat gibi şehirlerinde geçer, bu bölgelerde tahsil görür. Nîşâbur'da kâtiplik görevinde bulunduğu dönemde adı duyulmaya başlar.
Hârizmî'nin yaşadığı bölge İslam tarihinin altın çağı olarak adlandırılan IX-XI. yüzyıllar Doğu'nun en önemli ilim ve medeniyet merkezidir; felsefî, bilimsel, edebî, sanatsal ve entelektüel faaliyetlerin yanı sıra çok sayıda âlimin yetiştiği bir coğrafyadır. Hârizmî'nin bilimsel ve felsefî görüşleri bu birikimin yanında Antik Yunan felsefesi ile Kindî ve Fârâbî gibi müslüman Meşşâî filozofların etkisiyle şekillenmiştir.
Mefâtîhu'l-Ulûm bilinen ve günümüze ulaşan tek eseridir. Eserin önsözünde aktardığına göre, halifeliğin çeşitli idarî bürolarında çalışan memurlara ve çeşitli ilim dallarından haberdar olmaları gereken kâtiplere yönelik bir tür kılavuz olarak bu eserini kaleme almıştır. Çeşitli bilgi alanlarında kullanılan teknik terimler kısa ve öz biçimde tanımlanmaktadır. Mefâtîhu'l-Ulûm, bir bürokrat tarafından bilimsellik iddiasında olmaksızın meslektaşlarına ve gelecekte devlet kademelerinde görev alacak kişilere yönelik pratik bilgiler vermeyi hedefleyen bir eser gibi görünse de dönemin ilim ve medeniyet anlayışıyla devlet bürokrasisine dair kavramları ve anlayışları ayrıntılı şekilde sunması bakımından Türk-İslam kültür ve eğitim tarihi açısından da önem taşır.
Mefâtîhu'l-Ulûm'da kâtiplerin, dinî ve edebî konular yanında bürokrasiyi ilgilendirdiği için kamu yönetimi, maliye, bayındırlık ve mühendisliğe ait temel bilgilere sahip olmaları, ayrıca tarih, fıkıh, astronomi, tıp, mekanik gibi ilimlerde de bir birikime sahip bulunmalarının önemi açık bir şekilde vurgulanmıştır.
Eser ansiklopedik maddeler şeklinde düzenlenmiştir. İlimler iki ana bölüme ayrılmaktadır: 1. Şeriat ilimleri ve onlarla ilişkili olan Arap diline ilişkin ilimler. 2. Yunanlılar ve diğer milletlerden alınmış ilimler. Şeriat ilimlerini oluşturan ve altı bölüm içeren birinci bölümde fıkıh, kelam, nahiv, kitabet, şiir-aruz ve tarih ilimleri temel kavramları ile işlenmektedir. Hârizmî, Şer'î-Arabî'ye ait ilimlerin başında fıkhı ele almakta ve önce usûl-i fıkhın daha sonra da fıkhın pratik ve ibadet konularıyla ilgili başlıca terimlerinin tanımını vermektedir. Kelam kısmına geldiğinde kelamcıların kullandığı bazı teorik kavramlar tanımlanmakta ayrıca itikadî fırkaların ayrıntılı bir dökümü verilmektedir.
Eserin ikinci bölümünde yabancı milletlerden alınan bilimler ele alınmaktadır. felsefe, mantık, tıp, aritmetik, hendese, astronomi, musiki, hiyel ve kimya olarak sıralanmaktadır.
Hârizmî felsefeyi diğer bilimler arasında bağımsız bir ilim olarak görmemiş, onu bir ilimler sistemi olarak kabul ederek orijinal ve kapsayıcı bir yaklaşım sergilemiştir. Felsefe, nazarî (teorik) ve amelî (pratik) olmak üzere iki kısım halinde ele alınmaktadır. Teorik felsefe ilimleri: 1. Teoloji veya metafizik 2. Matematik 3. Fizik olmak üzere üçe ayrılmaktadır. Pratik felsefe ilimleri de üç bölümdür: 1. Ahlak 2. Ev yönetimi 3. Kamu yönetimi. Pratik felsefenin alt bölümlerinden 1. Ahlak: Kişinin bireysel davranışını düzenler; 2. Ev idaresi: Ev halkının davranışlarını düzenler. 3. Kamu yönetimi: Şehrin, toplumun, mülkün davranışını düzenler. Görüldüğü üzere Hârizmî, söz konusu ilimlerle ilgili temel kavramların yanı sıra yaşadığı dönemde ihtiyaç duyulan temel bilgilere ve yeniliklere de yer vermektedir.
Eserin ikinci bölümü birinci bölüme kıyasla daha kapsamlıdır. Toplamda kırk bir fasıl dokuz baptan müteşekkildir.
Felsefe kavramının anlamı nesnelerin hakikatlerini bilmek ve en doğru şekilde eylemde bulunmak olarak açıklanır. Hârizmî öncelikle felsefe kelimesinin kökenini inceler. Hârizmî felsefe bölümünde ve felsefe kitaplarında bahsedilen heyula kavramına vurgu yaparak her cismin sureti için taşıyıcı konumda olan şeyin o cismin heyulası olduğunu söyler. Felsefenin alanına giren ve fizikte önemli bir kavram olan "ustukus"u birleşiğin kendisinden oluştuğu şey olarak tanımlar ve ustukusların toprak, su, hava ve ateş olmak üzere dört unsur olduğunu açıklar. Hârizmî'nin ele aldığı bir diğer felsefî kavram zamandır. Zamanın feleklerin ve onun dışındaki hareket eden cisimlerin hareketi gibi, hareketin sayıldığı süreç veya müddet olduğunu ifade eder. Felsefî eserlerde sıkça yer alan varlık, yokluk gibi konuların eserde yer almaması dikkat çekmektedir.
Mantık başlığı felsefenin bölümleri içerisinde değil bağımsız bir başlık altında incelenmiştir. Hârizmî'nin mantıkla ilgili görüşlerini Aristo'nun mantık eserlerinin yanı sıra Kindî ve Fârâbî'nin mantık eserlerine dayandırdığı ifade edilmiştir. Eser ansiklopedik düzlemde ilerlediğinden ilgili kavramlar sadece tanımlanmıştır. Mefâtîhu'l-Ulûm'da mantık konularının ayrıntılı bir şekilde işlenmese de ayrı bir başlık altında ve birçok konudan daha geniş bir biçimde ele alınması, Hârizmî'nin eğitim yaklaşımını anlamakta önemli bir işarettir.
Hârizmî bilimlerin sınıflandırılması problemine bu şekilde yaklaşarak dinî ve dünyevi ilimlerin ayrı şekilde ve açıkça tanımlanmasında öncü bir rol oynamıştır. Böylece Mefâtîhu'l-Ulûm dönemin bütün bilim dallarını kapsayan az sayıdaki eserlerden biridir ve bilimlerin o dönemdeki gelişim seviyesini de açık seçik bir biçimde ortaya koymaktadır.