Sakız adasında dünyaya geldi. Zekâsı ve sıra dışı öğrenme merakı çevresindekilerin dikkatini çekti ve bir gemi kaptanı tarafından evlat edinilerek İstanbul'a getirildi. Bursa Askerî Rüştiyesi'ni ardından da Kuleli Askerî İdâdîsi'ni bitirdi. Harbiye Mektebi'ne kaydolduysa da deniz subayı olmayı istediğinden Bahriye Mektebi'ne geçiş yaptı ve erkânıharbiye mülazımı (yüzbaşı) rütbesiyle mezun oldu. Öncelikle mezun olduğu okulda matematik dersleri vermeye başladı. Divanhâne-yi Bahriye kâtipliği görevi verildi, bu sırada Darüşşafaka'da matematik dersleri vermeye başladı (bk. Darüşşafaka). Orada geleceğin büyük matematikçilerinden Sâlih Zeki talebesi oldu. Bahriye Mektebi nazırı, Mehmed Nâdir'den daha çok istifade edebilmek için onu yeniden Bahriye Mektebi'ne matematik muallimi olarak aldıysa da buradaki görevi bir sene kadar sürdü.
Mehmed Nâdir öğrenme merakı, yeni yerler görme heyecanı ve maceracı ruhunun tesiri altında 1879-1880'de arkadaşı Hüseyin Avni ile beraber izinsiz olarak Avrupa (İngiltere) seyahatine çıkınca askerî görevinden uzaklaştırıldı. Londra'da matematik kurslarına katıldı. İstanbul'a dönüşünde bir sene hapis cezasına çarptırıldı. Hapisten çıktıktan sonra Abdi Kâmil adlı arkadaşıyla 1882 yılında Vefa semtinde Şemsülmaârif adlı ilk hususi mekteplerden birini kurdu. O yıllarda özel mektep işletmeciliği devletin desteklediği revaçta olan girişimlerden biriydi. Mehmed Nâdir Bey'in kurduğu mektep, Batılı eğitim öğretim ilke ve yöntemlerine dayanan, devrin önde gelenlerinin teveccühüne layık görülmüş, ilk müslüman özel mekteplerinden biriydi. İki yıllık tecrübenin ardından bu defa 1884 yılında Çırçır'da Türk eğitim tarihinin en köklü ve başarılı eğitim kurumlarından biri olan Numûne-yi Terakkî Mektebi'ni kurdu (bugünün İstanbul Erkek Lisesi). Okul ilk, orta ve lise şeklinde üç kademeliydi ve sıkı bir disipline sahipti. Okul, uygulanan eğitim öğretim yöntemleri ve disiplin sayesinde devrin en parlak mektebi haline geldi. Mektebin ikinci bir şubesi 1890'da Edirne'de açıldı. Yine bu süreçte okulda eğitim tarihinin ilk öğrenci dergisi olan Numune-i Terakki Mecmuası yayımlanmaya başlandı.
Mehmed Nâdir Bey 1890'lardan sonra birçok Osmanlı aydını gibi devrin siyasî oluşumları içinde yer alarak henüz faaliyetlerini gizli yürüten Osmanlı İttihat ve Terakkî Cemiyeti üyeleriyle irtibat kurdu. Cemiyetin padişaha yönelik darbe girişimi 1897 yılında ifşa edilince, şüpheliler arasında bulunan Mehmed Nâdir tevkif edilerek sorguya çekildi. Ardından, Numûne-yi Terakkî Mektebi'ne el konuldu ve okul Maarif Nezareti'ne bağlandı. Mehmed Nâdir Bey ise aklanarak Sultan II. Abdülhamid'in en önemli eğitim projelerinden biri olan Aşiret Mekteb-i Hümâyunu nazırlığına getirildi (bk. Aşiret Mektebi). Beş yıl bu görevi yürüten Mehmed Nâdir Bey, 1902 yılında Cem'iyet-i Rusûmiye Müdürlüğü (vergi dairesi), bir sene sonra da önce Kastamonu ardından Halep Maarif Müdürlüğü emrine verildi. Bu görevler onun için bir bakıma İstanbul'dan uzaklaştırma demekti.
Hem idareci hem de muallim olarak görev yaparken bir taraftan da matematik teorileri ve eğitim meseleleriyle yakından ilgilendi, görüşlerini ve buluşlarını dönemin gazete ve dergilerinde yayımladı. 1882-1904 yılları arasında Tercümân-ı Hakîkat, Hâver, Güneş, Envâr-ı Zekâ, Numûne-i Terakki, Mir'ât-ı Âlem gibi dergi ve gazetelerde maarif, sanat ve matematik alanlarında telif ve tercüme yazılar yayımladı. 1900 yılında Fransa'da yayımlanan I'Intermediaire des Mathematiciens başlıklı matematik dergisiyle iletişim kurmaya başladı ve sorulan sorulara cevaplar gönderdi. A. Boutin adlı bir matematikçi, 1897'de dergiye "diophant" denklemiyle ilgili bir soru göndermiş ve uzun süre cevaplayan çıkmamıştı. 1906'da soru dergide yeniden yayımlandı. Mehmed Nâdir Bey bu zor matematik sorusuna 1908'de Halep'ten bir cevap gönderdi ve sorunun çözümü derginin 10. sayısında yayımlandı. Mehmed Nâdir Bey şiirde ve edebiyatta da hayli maharet kazanmış biri olarak Shakespeare'in Hamlet başta olmak üzere birçok metnini ve 42 sonesini ilk defa Türkçe'ye tercüme etti. Lise son sınıflar için ders kitabı olmak üzere Hesâb-ı Nazarî (teorik matematik; İstanbul 1926) başlıklı bir kitap yazdı. İlerleyen zamanlarda ise Dârülfünûn Fen Fakültesi Mecmuası'na bazı denklemlerin çözümü, matematik felsefesi ve matematik tarihiyle ilgili makaleler kaleme aldı. Bu dergide on iki makalesi yayımlandı. Bilim tarihçileri, uluslararası matematik dergilerinde teorik matematik alanında yayın yapan ilk Türk'ün Mehmed Nâdir Bey olduğunu belirtmektedir (Fazlıoğlu, 2003: 500).
1908'de Halep'ten Trablusgarp'a tayin edildi. Buradaki görevi, İtalyanlar'ın bölgeyi 1911'de işgal etmesiyle sona erdi ve İstanbul'a döndü ve Edirne'ye tayin edildi. Bu defa da Edirne'nin Bulgar işgaliyle düşmesi üzerine yeniden İstanbul'a geldi. Ancak devlet okullarında çalışma imkânı bulamadı ve zor günler yaşadı. Kısa bir süre sonra eski dost ve talebesi Fuad Şemsi'nin desteğiyle Darüşşafaka'da hesap dersleri vermeye başladı. 1915'ten itibaren Maarif Nazırı Ahmed Şükrü Bey'in delaletiyle İnâs Dârülfünunu'nda yüksek hesap dersleri hocalığına getirildi. 1919 yılında ise eski talebesi Dârülfünun Fen Fakültesi Reisi Sâlih Zeki Bey, onun için fakültede Nazariye-yi a'dâd (sayılar teorisi) Kürsüsü'nü kurdu ve başına hocasını davet etti. Mehmed Nâdir, 13 Aralık 1927 tarihinde Bebek'teki evinde vefat edinceye kadar öğretim üyeliği görevini sürdürdü. Mezarı Edirnekapı aile kabristanlığındadır.