İstanbul'un Beylerbeyi semtinde doğdu. Babasının ismi Mehmed Halit Bey, annesi Nefise Ruhsar Hanım'dır. Temel eğitiminden sonra Galatasaray Lisesi'nin yatılı kısmına on iki yaşında başlayan Refik Halit, son sınıfta aldığı disiplin cezasına kızarak okulu bıraktı. 1907 yılında dışarıdan sınava girerek liseden mezun olduktan sonra Hukuk Mektebi'ne kaydoldu. Hukuk Mektebi'nde öğrenciyken Maliye Nezareti'nde kâtip olarak başladığı memuriyet hayatı, Hukuk Mektebi ikinci sınıfındayken II. Meşrutiyet'in ilanıyla (1908) son buldu. Bu süreçte okulu da bırakan Refik Halit'in Servet-i Fünûn mecmuasında Fransızca'dan yaptığı kısa çevirileri, daha sonra Tercümân-ı Hakîkat gazetesinde makaleleri yayımlandı. Gazete ve dergilerdeki tecrübesinden cesaret alan yazar, ancak on beş sayı yayımlayabildiği Son Havadis adında bir akşam gazetesi çıkardı. Fecr-i Âtî edebî topluluğuna katıldı, ancak daha sonra bu topluluktan ayrıldı. "Kirpi" takma adıyla Şehrah gazetesi ve Cem dergisinde yazdığı siyasî yazı ve hicivleri sebebiyle İttihat ve Terakkî hükümeti tarafından muhalif olarak kabul edildi. Sadrazam Mahmud Şevket Paşa'nın öldürülmesi olayı üzerine 1913'te Sinop'a, 1916'da Çorum'a sürgün edildi. Sürgün yeri onun isteği ile 1917'de Ankara, 1917-1918 yılları arasında Bilecik olarak değiştirildi. Ziya Gökalp'in araya girmesiyle İstanbul'da ikametine izin verilince, Robert Kolej'de Türkçe öğretmeni olarak görev yaptı. Yeni Mecmua'da hikâye ve sohbet yazıları (1917-1918); Tasvîr-i Efkâr, Vakit ve Zaman gazetelerinde de makaleleri yayımlandı. 1918'de Sabah gazetesinin başmuharriri oldu. 1919'da Hürriyet ve İtilaf Fırkası'na üye oldu. Nisan 1919'da yedi ay ve Nisan 1920'de altı ay olmak üzere iki dönem Posta Telgraf umum müdürü olarak görev yaptı. Peyâm-ı Sabah ve Alemdâr gazetelerinde siyasî içerikli yazılar yazdı. 1922 yılında Aydede adıyla bir mizah dergisini toplam doksan sayı çıkardı. Posta Telgraf umum müdürü iken Millî Mücadele hareketinin karşısında yer alması sebebiyle "yüzellilikler listesi"ne dahil edilince, 9 Ekim 1922 tarihinde eşi ve oğlu ile Türkiye'den kaçarak Beyrut'a gitti. Geçimini sağlamak için yayın politikasını beğenmese de Doğru Yol gazetesinde yazılar yazdı. Halep'te Vahdet gazetesinin edebî müdürlüğünü üstlendiği dönemde Türkiye lehinde yazıları, Hatay'a sık sık giderek Hatay'ın Türkiye'ye katılması için Türk gençlerini teşvik eden çalışmaları Ankara hükümeti tarafından takdirle karşılandı. 17 Temmuz 1938'de çıkarılan af kanunu ile sürgünde geçen on altı yıl sonunda Türkiye'ye döndü. İstanbul'da yazı hayatına devam eden Refik Halit, 1948-1949 yılları arasında Aydede dergisini yeniden çıkardı. Geçirdiği bir ameliyat sonrasında 18 Temmuz 1965 tarihinde öldü ve İstanbul Zincirlikuyu Asrî Mezarlığı'na defnedildi.
Memleket Hikâyeleri'nde birinci sürgün dönemindeki, Gurbet Hikâyeleri'nde yurt dışındaki ikinci sürgün dönemindeki gözlemlerini aktaran Refik Halit, Türk edebiyatında özellikle bu eserleri ile tanınır. Bilhassa Memleket Hikâyeleri, Anadolu'ya açılan konusu ve sade Türkçe'si ile hem içerik hem de dil yönünden Türk hikâyeciliğine çok önemli katkılarda bulunmuştur. Osmanlı Devleti'nden Cumhuriyet'e geçiş sürecine şahit olan yazarın günce ve hatıra türündeki eserleri şahsî hayat hikâyesi yanında toplumdaki siyasî, sosyal ve kültürel alandaki değişimleri ve problemleri de yansıtması bakımından önemlidir.
Eserlerini İstanbul Türkçesi ve konuşma dili ile yazan Refik Halit, Türkçe'yi en iyi kullanan yazarlardan biri, kullandığı Türkçe de "XX. asır Türkçe'sinin 'örnek dili' olabilecek derecede güzel ve sağlam" (Banarlı, 1971: 1206) olarak değerlendirilir. Dilde ılımlı sadeleşmeyi destekleyen Refik Halit, özellikle 1938 ve sonrası yazdığı yazılarında Türk Dil Kurumu'nun dil politikaları, alfabe değişikliği, imla ve sözlük çalışmaları, Arapça ve Farsça kökenli kelimeler için önerilen öztürkçe kelimeler hakkındaki görüş ve önerilerini dile getirir. 1949'da düzenlenen VI. Türk Dili Kurultayı'na da katılan Refik Halit Türkçe'de tam karşılığı olan yabancı sözcükler kullanılmaması, halkın diline yerleşmiş yabancı sözcüklere dokunulmaması ancak yabancı dillerden Türkçe'ye geçmiş dil bilgisi kurallarının kaldırılması gerektiği düşüncesindedir. Ona göre, medeniyet şifresinin anahtarı olarak gördüğü yeni alfabe Türk milleti ile Avrupa milletleri arasındaki 300 senelik farkı bir nesillik hamlede kaldıracak ve küçük bir zümrenin elinde olan bilgi herkesin malı haline gelecektir.
Refik Halit, öğrenim hayatı boyunca okula hiçbir zaman istekle devam etmediğini ve okuldan kaçma fırsatını hiç kaçırmadığını Ago Paşa'nın Hatıratı adlı eserinde belirtir (Karay, 2009a: 162). Bununla birlikte eğitime ve okulun nasıl olması gerektiğine dair görüşlerini yazılarında belirtmiştir. Geçmiş dönemlerdeki ve onun zamanındaki okulları, öğretmenleri, öğretilen konuları ve kullanılan yöntemleri karşılaştırarak anlatır. Eski devirlerdeki okul hayatını ve eğitimde kullanılan yöntemleri eleştirirken, Cumhuriyet dönemindeki eğitimi daha özgür, sevgi dolu ve oyunla iç içe olması bakımından över. Refik Halit'e göre eğitim programına çocuğa bütün ömrü boyunca gerekli olan pratik bilgiler de alınmalı ve öğretmenler bu pratik bilgileri öğrencilere balıkçı, demirci, nalbant dükkânları ile pazar yerlerini gezdirerek öğretmelidir (Karay, 2009b: 98-104).
Hikâye, roman, tiyatro, hatıra, hiciv, kronik gibi farklı türlerde çok sayıda eseri olan yazar; eserlerinde Refik Halit isminin yanında "Aydede, Kirpi, Kirpi-i Nâtüvan, Mübeccel Halid, Rehak, R. H., Vak'anüvis" takma adlarını da kullanmıştır. Refik Halit'in Çete, 2000 Yılın Sevgilisi, Karlı Dağdaki Ateş, Nilgün, Sürgün ve Yatık Emine adlı eserleri sinemaya uyarlanmıştır.
Eserleri: Hikâye; Memleket Hikâyeleri (1919), Gurbet Hikâyeleri (1940). Roman; İstanbul'un Bir Yüzü (1939), Yezidin Kızı (1937), Çete (1939), Sürgün (1941), Anahtar (1947), Bu Bizim Hayatımız (1950), Mapa Melikesi Nilgün (1950), Nilgün'ün Sonu (1952), Dişi Örümcek (1953), Yer Altında Dünya Var (1953), 2000 Yılın Sevgilisi (1954), İki Cisimli Kadın (1954), Bugünün Saraylısı (1954), Karlı Dağdaki Ateş (1956), Kadınlar Tekkesi (1956), Dört Yapraklı Yonca (1957), Sonuncu Kadeh (1965), Yerini Seven Fidan (1977), Yüzen Bahçe (1981), Ekmek Elden Su Gölden (1985). Tiyatro; Tiryaki Hasan Paşa ve Kanije Müdafaası (1909), Deli (1929). Mizah ve Hiciv; Sakın Aldanma İnanma Kanma (1915), Kirpinin Dedikleri (1916), Ay Peşinde (1918), Ago Paşa'nın Hatıratı (1918), Guguklu Saat (1922), Tanıdıklarım (1922). Hatıra; Minelbab İlelmihrab (1948), Bir Ömür Boyunca (1990). Kronik; Bir İçim Su (1931), Bir Avuç Saçma (1939), İlk Adım (1941), Üç Nesil Üç Hayat (1943), Makyajlı Kadın (1943), Tanrıya Şikâyet (1944).
Refik Halit Karay'ın 1938-1965 yılları arasında çeşitli dergi ve gazetelerde yazdığı yazıları İnkılâp Kitabevi tarafından Memleket Yazıları dizisiyle yeniden basılmıştır.