Kazaskerlik kurumu, genel kabule göre, ilk defa I. Murad zamanında tesis edilmiştir. Bazı çalışmalar ise daha önceki dönemde de kazasker (kadıasker) atanmış olabileceğini göstermektedir. Fâtih Sultan Mehmed döneminin sonlarında (XV. yüzyıl sonları) Anadolu ve Rumeli kazaskerliği olarak ikiye ayrılmış, her birine yönetici olarak ayrı kazaskerler görevlendirilmiştir. Yavuz Sultan Selim (1512-1520) zamanında kısa bir süre üçüncü bir kazaskerlik ihdas edilmişse de daha sonra kaldırılmıştır.
Aynı isimde bazı kurumlar daha önceki İslam devletlerinde de görülmekle beraber, kazaskerlik Osmanlı Devleti'nde özgün bir içerik kazanmıştır. Önceki devletlerde bu kurum silahlı kuvvetlerin/askerlerin davalarına bakan bir özel yargı mercii olarak, kadılkudat (kadılar kadısı) gibi sivil yargının başında bulunan bir kurumla beraber devlet teşkilatı içinde vücut bulmuştur. Bu bakımdan önceki dönemlerde görülen kazaskerlik, sadece askerlerin yargı işleriyle görevli bir kurumdur. Halbuki Osmanlı Devleti'nde bu özel alanla sınırlı kalmamış hem sivil hem de askerî yargı görevlerini ve yönetimini kapsayacak şekilde görev ve sorumluluk alanı genişletilmiştir.
Kazasker Osmanlı Devleti'nde Dîvân-ı Hümâyun'un daimi üyesidir. Bütün toplantılara katılır, devletin yönetimiyle ilgili her türlü kararın alınmasında görüş ve söz sahibi olurdu. Şeyhülislam Dîvân-ı Hümâyun üyesi olmadığı için, orada bulunan kazasker, yargı teşkilatıyla birlikte, ilmiye teşkilatının ve hukukun da temsilcisidir. Esasen XVI. yüzyıl ortalarına kadar kazaskerler ilmiye teşkilatının da başıdır. Bu tarihlerden itibaren şeyhülislamlık makamı güçlenmiş, yüksek dereceli kadıları (mevleviyet kadılarını) atama yetkisi kazaskerden alınıp şeyhülislama verilmiştir. Zamanla kazaskerlerin atanmalarında da şeyhülislamlar etkili olmaya başlamıştır. Tanzimat döneminde ise Anadolu ve Rumeli kazaskerlikleri adeta birer yargı dairesine dönüştürülerek resmen şeyhülislamlığa bağlanmıştır. Kazaskerler ilk başlarda belli bir süreyle sınırlı olmaksızın görev yapmışlardır. XVI. yüzyıl sonlarından itibaren ise istisnaları olmakla birlikte, yaklaşık bir yıl süreyle atanmışlar, sürelerinin dolmasıyla görevden ayrılmışlardır.
Kazaskerler, çeşitli derecelerdeki kadılıklarda görev yapan, daha sonra yüksek dereceli kadılıklarda bulunan kişiler arasından seçilirdi. Özellikle yerleşmiş bir uygulama olarak belirtilebilecek husus, kazasker atanmadan önce İstanbul kadılığı görevi yapmış olma şartının aranmış olmasıdır. Bu hiyerarşiye büyük ölçüde uyulduğu görülmekle birlikte, bazan farklı uygulamalara da rastlanmaktadır.
Kazaskerlerin Dîvân-ı Hümâyun üyesi olmaları hasebiyle pek çok siyasî ve idarî görevleri de bulunmaktadır. Savaş ve barışa karar vermekten vergilerin konulmasına, toprak sisteminin düzenlenmesinden yeni cezalar konulmasına kadar her konuda karar ve icra yetkisi bulunan Dîvân-ı Hümâyun'da etkili bir üye olarak yer almışlardır.
Dîvân-ı Hümâyun'un önemli bir görevi de İslam hukukunun genel yapısı içinde bazı hukukî düzenlemeler yapmaktır. Osmanlı Devleti'nde bu tür hukukî düzenlemelerin bütününe "örfî hukuk" denilmektedir. Örfî hukuk, özellikle vergi hukuku, toprak hukuku ve ceza hukuku alanlarında daha yaygın bir işlerlik kazanmıştır. Bu alanlarda yapılan düzenlemeler "kanunname" adı ile yazılı metinler şeklinde oluşturulmuştur. Örfî hukuk, İslam hukukuna aykırı veya onun dışında geliştirilmiş bir müstakil hukuk düzeni değildir. İslam hukukunda özellikle zaman, yer ve başka şartlar itibariyle değişkenlik gösterebilecek alanlarda "nas"larla hukuk kuralı bulunmayıp, bu alanların "yasama organı" tarafından düzenlenmesi öngörülmüştür. Bu hukukta, yasa koyucunun bilerek bıraktığı boşluk anlamında, "bilinçli boşluk" ile kıyaslanıp anlaşılabilecek bir husustur. Osmanlı örfî hukuku bu şekilde bırakılmış boşlukları, İslam hukukunun genel ilkelerine ve esaslarına aykırı olmayacak şekilde doldurmaya çalışmıştır. Örfî hukukun oluşturulduğu nihaî yer olan Dîvân-ı Hümâyun'da, İslam hukukunun yüksek temsilcisi olarak kazasker, İslam hukuku ile örfî hukuk kuralları arasında uyumun temininde büyük ölçüde etkili olmuştur.
Kazasker, yargı teşkilatının başı olarak kadıların atanmasında söz sahibidir. XVI. yüzyıl ortalarına kadar tüm kadıların, daha sonra ise yüksek dereceli kadılıklar dışındaki bütün kadıların atanması kazaskerlerin önerisi ile yapılmıştır. Anadolu kazaskeri Anadolu ve Arabistan'da bulunan kadılıkların, Rumeli kazaskeri ise Osmanlı Devleti'nin Avrupa topraklarındaki kadılıklarla Kırım'daki kadılıkların atamalarını hazırlayıp padişaha arzetmiştir. Kadıların görev yerlerinin değiştirilmesi, şikâyet üzerine veya doğrudan teftiş edilmesi, gerekirse görevden alınmaları da kazaskerlerin yetkisindeydi. Ayrıca kazaskerler, kadıların yargı görevi yaptığı çevreyi de (yargı çevresi) belirlemek veya değiştirmek yetkisine sahipti. Yeni kadılıkların kurulmasında da kazaskerler söz sahibiydi.
Kadıların atanması yanında, Osmanlı yükseköğretim kurumu olan medreselere müderris atamak da kazaskerlerin görevleri arasındadır. Aynı şekilde müderrislerin teftişi, gerek olduğunda görevden alınmaları, müderris adaylarının deftere kaydedilmesi ve sırası gelenin tayinini hazırlayıp padişaha arzedilmesi kazaskerlerin yetkisindeydi. Kadıların tayininde olduğu gibi müderrislerde de tayinle ilgili yazılar padişaha arzedilir, onun onayı ile tayin kesinleşirdi. Bir medrese kadrosu için birden fazla müderris müracaat ederse aralarında imtihan yapılırdı. Bu imtihanlarda bazan kazaskerler bizzat bulunurdu. Daha sonra kazaskerlik ve şeyhülislamlık yapan Çivizâde Muhyiddin Mehmed Efendi'nin aday olduğu Sahn-ı Seman müderrisliği için yapılan bir imtihanda Rumeli Kazaskeri Fenârîzâde Muhyiddin Efendi ile Anadolu Kazaskeri Kadirî Efendi; bir süre sonra yine Sahn müderrisliği için yapılan imtihanda Rumeli Kazaskeri Hamid Efendi ile Anadolu Kazaskeri Abdülkerimzâde bulunmuşlardır. Yine bir hariç (daha alt dereceli) medresesi için yapılan başka bir imtihanda Rumeli Kazaskeri Ebüssuûd Efendi ile Anadolu Kazaskeri Mîrim Kösesi Mehmed Efendi vardır. XVI. asır içinde gerçekleşen bu imtihanlarda henüz kazaskerlerin yetkili olduğu anlaşılmaktadır. Ancak 1689 tarihli bir belgeye göre, 20, 25 ve 30 akçe medreselerden sonra kırklı dahil bütün müderrisliklerin şeyhülislamın huzuruyla yapılacak imtihan neticesinde verilmesi emredilmektedir. Bu konuda bir hatt-ı hümâyundan da bahsedilmektedir.
Kazaskerlerin en önemli görevi yüksek yargı organı olarak yaptığı faaliyetlerdir. Kazasker aynı zamanda bir yüksek yargı organı olarak çalışan Dîvân-ı Hümâyun'da yargılama yapmaktaydı. Daha önce yerel mahkemelerde görülmüş bazı davaları tarafların talebi üzerine veya re'sen Dîvân-ı Hümâyun'da görmek, bir çeşit temyiz incelemesi yapmak kazaskerin yetkisindeydi. Bir kurul olarak toplanan Dîvân-ı Hümâyun'da bu çeşit yargılamalar, kurul halinde değil, sadece kazasker (kural olarak Rumeli kazaskeri) tarafından yapılırdı. Bazı önemli davalar, özellikle ileri gelen devlet büyüklerinin yargılanmaları da bu şekilde, bir nevi ilk derece mahkemesi olarak Dîvân-ı Hümâyun'da gerçekleştirilirdi.
Dîvân-ı Hümâyun dışında, cuma günleri, veziriazam başkanlığında toplanan cuma divanında da önemli ölçüde temyiz veya istinaf incelemesinin yapıldığı bilinmektedir. Bu fonksiyonu itibarıyla cuma divanına "huzur murâfaası" adı da verilmiştir. Yerel mahkemelerden gelen birçok davanın burada incelendiği, bazı mahkeme kararlarının bozulduğu, bazılarının onandığı, bazılarının ise ilk derece mahkemesinde görüşülmek üzere mahalline gönderildiği arşiv kayıtlarından anlaşılmaktadır.
Kazaskerlerin bir de kendi divanları vardı. Her gün toplanan bu divanda, kazasker bazı nitelikli davalara bakardı. Son çalışmalar, kendi divanında dava görenin sadece Rumeli kazaskeri olduğunu göstermektedir. Rumeli kazaskerliğinin bu türden dava kayıtları (sicilleri), yaklaşık, Kanûnî Sultan Süleyman döneminden itibaren mevcuttur. Bu divanda özellikle "askerî" adı verilen, kamu görevlilerinin davaları görülmüştür. Bu kişiler, kendileri aleyhine açılmış davaların kazaskerlik mahkemesinde görülmesini talep etme hakkına sahipti. Böyle bir durumda dava hangi şehirde olursa olsun, İstanbul'da Rumeli kazaskerinin huzurunda görülürdü.
Tanzimat'tan sonra, idarî görevleri ve muhtariyetleri elinden alınan, sadece yargı ile ilgili yetkileri bulunan kazaskerlik kurumu, şeyhülislamlığa bağlanmıştır. XX. yüzyılın başlarında Anadolu ve Rumeli kazaskerlik mahkemeleri kazaskerlik mahkemesi adı altında iki yüksek mahkeme olarak düzenlenmiştir. 1914 yılında ise ikisi birleştirilerek tek mahkeme haline getirilmiştir. Osmanlı Devleti'nin sona ermesine kadar bu mahkeme görevine devam etmiştir.