Amasralı bir ailenin çocuğu olarak İstanbul Kadıköy'de dünyaya geldi. Babası deniz subayı Mehmet Kâmil Eyice, annesi Hatice Hanım'dır. Eski eser tutkusu ilkokul yıllarında başladı. Galatasaray Lisesi'nden mezun olduğu 1943 yılının Ekim ayında, II. Dünya Savaşı'nın zorlu şartlarına rağmen, ailesinin de desteği ile arkeoloji ve sanat tarihi okumak üzere Almanya'ya gitti. 1944'te Viyana Üniversitesi'nde, 1944-45'te Berlin Üniversitesi'nde öğrenim gördü. 1945'te Türkiye'ye döndü ve İstanbul Üniversitesi Edebiyat Fakültesi'ne devam etti. E. Diez'in danışmanlığında İstanbul Minareleri konulu teziyle buradan mezun olarak asistanlığa atandı (1948). Asistanlığı süresince Diez, P. Schweinfurth ve K. Erdmann'ın Almanca, A. Gabriel'in Fransızca verdiği dersleri ve konferansları Türkçe'ye çevirdi ve notlarını yayımladı.
1950-53 yılları arasında Arif Müfit Mansel'in başkanlığını yürüttüğü Side kazılarına katıldı, 1952'de Side Bizans Devri Eserleri başlıklı teziyle doktorasını tamamladı. 1954'te Kâmran Yalgın'la evlendi. 1955 yılında yedek subay olarak askerliğini yaparken İstanbul'da Son Devir Bizans Mimarisi başlıklı çalışmasıyla doçent oldu. Deniz Müzesi'nde görevlendirildi (1956). Aynı yılın kasımından itibaren Edebiyat Fakültesi'ndeki görevine devam etti. 1958-59'da, on üç ay süre ile Alman hükümetinin Humboldt bursu ile Münih Üniversitesi'nde çalıştı. 1964'te İlk Osmanlı Devrinin Dinî-İçtimaî Bir Müessesesi: Zaviyeler çalışmasıyla profesör unvanını aldı. 1963-1982 yılları arasında, fakülte bünyesinde kurduğu Bizans Sanatı Tarihi Kürsüsü'nün başkanlığını yaptı. 1990 yılında emekli oldu. Türk Tıp Tarihi Enstitüsü, Türk Tarih Kurumu (1968-83), Gayrimenkul Eski Eserler ve Anıtlar Yüksek Kurulu (1958-1998), Anıtlar Kurulu (1958-1996), Eski Eserler Encümeni (1956-96) Belçika Krallık Akademisi, Amerikan Arkeoloji Enstitüsü ve Alman Arkeoloji Kurumu aslî üyesi, Atatürk Kültür Merkezi şeref üyesi idi (2015).
İstanbul Üniversitesi'ndeki derslerinin yanı sıra eğitim ve konferans verme amacıyla Ankara Hacettepe Üniversitesi'nde (1972-74), Avrupa'da Bochum (1974), Sorbonne ve Collège de France'ta (1976), Genève (1976) ve Ravenna üniversitelerinde misafir öğretim üyesi olarak bulundu. 1990'da emekliliğinden sonra Mimar Sinan Güzel Sanatlar Üniversitesi lisans, Marmara Üniversitesi İlahiyat Fakültesi İslam Tarihi ve Sanatları Anabilim Dalı'nda (2007-2008) yüksek lisans dersleri verdi. Pek çok ülkede konferanslar verip uluslararası kongrelerde bildiriler sundu.
Ülkesinin tarihine, kültürüne ve medeniyetine sahip çıkmayı kendine ilke edinen Eyice, bir ilim adamı olarak öncelikle gençliğinden itibaren aldığı notlarla fotoğrafladığı İstanbul'un sanat eserlerini ortaya çıkardı, onların yaşatılması için mücadele etti. Anadolu'daki bir kısım Bizans dönemi eserlerinin yanı sıra Balkan ülkelerindeki incelemelerinde de bazı Osmanlı eserlerini ilim dünyasına ilk tanıtan sanat tarihçisi oldu. Konuya ilgi duyan birçok araştırmacıya öncülük etti. TDV İslâm Ansiklopedisi'nin yayıma başlamasından tamamlanıncaya kadar İslam Sanatları/Mimari İlim Heyeti'nde müellif-redaktör olarak hizmet verdi..
Çalışma azmi, öğrenme öğretme arzusu, akademik bilgisi, yabancı dillere hakimiyeti, araştırma ve inceleme disipliniyle, ilim dünyasına başta Türkçe olmak üzere yabancı dillerde kitap, 1600'ü bulan pek çoğu kitap hacminde makale ve ansiklopedi maddesi yazdı. Çalışmalarının yoğunluğu İstanbul, İstanbul tarihi ve Bizans eserleri üzerine olmakla birlikte Türk medeniyeti, mimarisi ve sanatı, kaybolan tarihî eserler, monografiler, Türkiye'ye gelmiş seyyahlar, seyahatnameler, İstanbul ve Türk medeniyetine hizmet etmiş kişiler ve ressamlar, Osmanlı sınırları içinde kalan topraklardaki Türk eserleri, tarihî belge olarak neşredilmiş resimler, Türk sanat tarihine dair yayınlar hakkındaki araştırmaları birer kaynak niteliğindedir.
Hayatı boyunca temin ettiği yerli ve yabancı, bulunması nadir eserlerden oluşan zengin kütüphanesi, bugün İstanbul Araştırmaları Enstitüsü'nde araştırmacılara hizmet vermektedir.
1998'de Fransız hükümetinin verdiği Légion d'Honneur nişanı, Cumhurbaşkanlığı Kültür ve Sanat Büyük ödülü (2011), Yüzyılın İslam Kültür Hizmeti Onur ve Hizmet ödülü (Türkiye Diyanet İşleri Başkanlığı, 2014) sahibidir. Eyice 28 Mayıs 2018 tarihinde vefat etti, Fatih Camii haziresine defnedildi.
Bazı Eserleri: Istanbul Petit Guide à Travers les Monuments Byzantins et Turcs (İstanbul 1955); Son Devir Bizans Mimarisi: İstanbul'da Palaiologos'lar Devri (İstanbul 1963, 1980); Galata ve Kulesi (Türkçe-İngilizce, 1969); Karadağ (Binbirkilise) ve Karaman Çevresinde Arkeolojik İncelemeler (İstanbul 1971); Bizans Devrinde Boğaziçi (İstanbul 1976, 2007, 2017); Eski İstanbul'dan Notlar (İstanbul 2006); Yabancıların Gözüyle Bizans İstanbul'u (İstanbul 2017).