Mervânîler’in kurucusu Bâd (Bâz) lakaplı Ebû Şücâ Abdullah Hüseyin’dir. Kaynaklarda önceleri çobanlık yaptığı bildirilen Bâd’ın (Rûzrâverî, III, 83-84; a.g.e., [İng. trc.], VI, 84-85; İbnü’l-Ezrak el-Fârikī, s. 49-50) ilk siyasî faaliyetleri Bağdat’a hâkim olan Şiî Büveyhîler’in emîri Adudüddevle’ye karşı olmuştur. Bâd, Bizans’ın bölgedeki iktidar boşluğunu iyi değerlendirerek Erciş’i ele geçirdi (367/978’den sonra) ve bölgedeki bazı şehirleri yağmaladı. Bâd’ın Büveyhîler’e karşı neden isyan ettiği hakkında bilgi yoktur. Ancak Bağdat’a hâkim olarak Abbâsî halifelerini baskı altında tutan ve bu yüzden Bizans’a ve Ermeniler’e karşı gerçekleştirdikleri cihad harekâtında Abbâsîler’in desteğinden yoksun kalan Diyarbekir bölgesindeki halka yardım amacıyla böyle bir harekâta giriştiği söylenebilir. Ayrıca Bâd’ın Bağdat’ı alarak Büveyhîler’i oradan uzaklaştırmak istediği de bilinmektedir.
Adudüddevle’nin ölümünden (Şevval 372 / Nisan 983) sonra Bâd Diyarbekir bölgesine inerek Meyyâfârikīn’ı aldı ve Mervânîler adıyla anılacak olan devletin temellerini attı (373/983). Ardından Âmid, Nusaybin, Cizre ve Ahlat taraflarını ele geçirdi. Büveyhîler’den Samsâmüddevle’nin gönderdiği iki orduyu da yenen Bâd 373 (984) ilkbaharında Musul’a hâkim oldu. Samsâmüddevle ile yaptığı antlaşma sonucunda Diyarbekir’in tamamına ve Tûr Abdîn bölgesinin batı taraflarına hâkim oldu.
Bâd’ın Hamdânoğulları ile Musul hâkimiyeti hususunda giriştiği mücadelede ölmesi üzerine (380/990) yanında bulunan yeğeni Ebû Ali Hasan b. Mervân, etrafına topladığı bir grup askerle Bâd’ın hâkimiyetindeki Hısnıkeyfâ’yı (Hasankeyf) ele geçirdi. Aynı yıl Meyyâfârikīn’ı ve Diyarbekir bölgesinin birçok kalesini zaptetti (380/990). Bâd’ın temellerini attığı devlet Ebû Ali Hasan’ın babasının adına nisbetle Mervânîler diye anılmıştır. Ertesi yıl Hamdânîler’le yaptığı mücadeleyi kazanarak hâkimiyet sahasını genişletti. Ebû Ali’nin diğer müslüman emirliklerle birlikte cihad harekâtına girişmesinden çekinen Bizanslılar 382’de (992) Mervânîler’le on yıllık bir antlaşma imzalamak zorunda kaldılar (Rûzrâverî, III, 247; İbnü’l-Ezrak el-Fârikī, s. 61).
Ebû Ali’nin öldürülmesiyle (387/997) yerine kardeşi Ebû Mansûr Mümehhidüddevle Saîd geçti. Mümehhidüddevle’ye de kardeşi Nasrüddevle Ahmed halef oldu (401/1011). Büveyhîler, Fâtımîler ve Bizans İmparatorluğu Ahmed’e elçiler gönderip onu Diyarbekir emîri olarak tanıdılar (İbnü’l-Ezrak el-Fârikī, s. 103). Abbâsî Halifesi Kādir-Billâh, Diyarbekir’in menşuru ile birlikte “Nasrüddevle” lakabını da vererek Ahmed’in emirliğini tanıdı (403/1013). Nasrüddevle 415’te (1024) Âmid’i, ertesi yıl Urfa’yı emirliğin topraklarına kattı.
Mervânîler’le Büyük Selçuklular arasındaki ilişkiler Tuğrul Bey zamanında başladı. Diyarbekir ve Musul bölgesinde yağmalar yapan Arslan Yabgu’ya bağlı Oğuzlar’ın (Yabgulular) faaliyetlerinden şikâyetçi olan Nasrüddevle bu vesileyle haberleştiği Tuğrul Bey ile dostane münasebetler kurdu ve Büveyhîler adına okuttuğu hutbeyi Tuğrul Bey adına okutmaya başladı (441/1049). Bizans İmparatoru Konstantinos’un ricasıyla, Selçuklular’ın elinde esir bulunan Gürcü Prensi Liparit’in Sultan Tuğrul Bey tarafından serbest bırakılmasını sağladı. Nasrüddevle zamanında Diyarbekir bölgesi tarihinin en parlak dönemlerinden birini yaşadı. Ticarî ve kültürel faaliyetler yoğunluk kazandı; onun sarayı âlim ve şairlerle doldu.
Nasrüddevle 453’te (1061) vefat edince yerine oğlu Nizâmeddin Ebü’l-Kāsım Nasr geçti. Ancak bir müddet sonra Sultan Tuğrul Bey’in desteğini alan kardeşi Said onun emirliğine karşı çıktı. Sultanın Sâlâr-ı Horasan emrinde gönderdiği 5000 kişilik bir ordu Meyyâfârikīn üzerine yürüdü. Mervânî Veziri Fahrüddevle İbn Cehîr iki kardeş arasındaki gerginliği bertaraf ederek Âmid’in yönetimini Said’e bıraktırdı (454/1062). Ancak Nizâmeddin 455’te (1063) Âmid’e girip şehre yeniden hâkim oldu. Saîd de isyankâr tavrından vazgeçerek bir köşeye çekildi.
Malazgirt Muharebesi sırasında Mervânîler’in hâkimiyetindeki Diyarbekir bölgesinden 10.000 kadar gönüllü Selçuklu ordusuna katılmıştı. Bu zaferden sonra Ahlat ve Malazgirt Selçuklu hâkimiyetine geçti. Bizans İmparatoru Mikhail’in, Melikşah’ın büyük önem verdiği Anadolu akınlarının durdurulması için Meyyâfârikīn’a elçi göndermesi (464/1072), imparatorun Selçuklular’la yapmayı düşündüğü barışa Mervânoğulları’nın desteğini sağlamak istediğini göstermektedir.
472’de (1080) ölen Nizâmeddin’in yerine büyük oğlu Nâsırüddevle Mansûr geçti. Dirayetsiz bir yönetim ortaya koyan Mansûr, bir müddet sonra halkın sevgisini kazanan babasının veziri Enbârî’yi görevden alarak yerine hıristiyan bir hekim olan Ebû Sâlim’i tayin etti. Fahrüddevle ile oğlu Amîdüddevle, Ebû Sâlim’in Diyarbekir’de sebep olduğu iktidar boşluğu, hıristiyanların müslümanlar üzerindeki baskıları ve bölgenin doğrudan merkeze bağlanması gerektiği konusunda Sultan Melikşah’ı bilgilendirip buradaki zenginliklerden de bahsederek onu bölgeyi alması için teşvik ettiler. Melikşah, 476’da (1083) Fahrüddevle Muhammed b. Cehîr emrindeki bir orduyu Diyarbekir’e gönderdi. Fahrüddevle, oğlu Zaîmüddevle Ebü’l-Kāsım’ı Âmid’i zaptetmek için görevlendirip kendisi Meyyâfârikīn üzerine yürüdü. 3 Safer 478’de (31 Mayıs 1085) Âmid, 6 Cemâziyelevvel 478’de (30 Ağustos 1085) Meyyâfârikīn ele geçirildi. Bunu diğer şehirler takip etti. Böylece Mervânîler hânedanı ortadan kalkmış oldu. Son Mervânî emîri Nâsırüddevle Mansûr, Sultan Melikşah’ın ölümünden sonra başlayan iktidar boşluğundan istifade ederek bölgeyi tekrar alıp Mervânî Devleti’ni ihya etmek için çaba sarfettiyse de Büyük Selçuklu tahtını ele geçirmeye çalışan Tutuş’un müdahalesiyle karşılaştı. Tutuş Diyarbekir bölgesini zaptedip (486/1093) Mansûr’u esir aldı, ardından veziri İbn Bedî‘in aracılığıyla serbest bırakılıp Cizre’ye dönmesine müsaade etti. Mansûr Muharrem 489’da (Ocak 1096) ölünceye kadar burada kaldı.