İnsanlar Kararlarını Siyah Kutu Algoritmalara Ne Zaman Teslim Eder?

Yapay zekâ sistemleri artık yalnızca film önerileri sunan veya reklam gösteren araçlar olmaktan çıktı. Günümüzde kredi başvurularının değerlendirilmesinden tıbbi teşhislere, işe alım süreçlerinden otonom araçlara kadar birçok kritik karar yapay zekâ destekli sistemler tarafından veriliyor veya yönlendiriliyor. Ancak bu gelişim beraberinde önemli bir soruyu gündeme getiriyor: İnsanlar, nasıl çalıştığını anlamadıkları algoritmalara ne kadar güvenebilir?

Bu sorunun merkezinde “Black Box” yani siyah kutu algoritmalar yer alıyor. Özellikle derin öğrenme modelleri milyonlarca hatta milyarlarca parametreyle çalışırken, bir sonuca nasıl ulaştıklarını açıklamak çoğu zaman mümkün olmuyor. Sonuç doğru olsa bile kararın nasıl üretildiği bilinmediğinde güven sorunu ortaya çıkıyor. İşte bu noktada Açıklanabilir Yapay Zekâ (Explainable AI - XAI) kavramı kritik bir gereklilik haline geliyor.

Bir insan uzman bir karar verdiğinde genellikle gerekçelerini açıklayabilir. Bir doktor neden belirli bir teşhis koyduğunu, bir mühendis neden belirli bir tasarımı seçtiğini anlatabilir. Ancak birçok yapay zekâ modeli yalnızca sonuç üretir. Kararın arkasındaki mantık kullanıcı tarafından görülemez. Örneğin bir banka, kredi başvurusunu reddeden bir yapay zekâ sistemini kullanıyor olsun. Müşteri “Neden reddedildim?” diye sorduğunda sistemin yalnızca “Algoritma uygun görmedi” cevabını vermesi hem hukuki hem de etik açıdan ciddi sorunlar oluşturur. Bu durum yalnızca kullanıcı güvenini azaltmaz, aynı zamanda sistemdeki olası hataların ve önyargıların da fark edilmesini zorlaştırır. ^【1】

İnsanların teknolojiye duyduğu güven her zaman performansla doğru orantılı değildir. Bir sistem ne kadar başarılı olursa olsun, insanlar karar mekanizmasını anlamadıklarında belirli bir noktadan sonra şüphe duymaya başlar.

Psikoloji araştırmaları, insanların belirsizlikten kaçınma eğiliminde olduğunu gösteriyor. Bir kararın neden verildiğini bilmek, kararın doğruluğundan bağımsız olarak güven hissini artırıyor. Bu nedenle insanlar bazen daha düşük performanslı fakat açıklanabilir sistemleri, daha yüksek performanslı ancak anlaşılmaz sistemlere tercih edebiliyor.

Bu durum özellikle şu alanlarda belirginleşiyor:

• Sağlık hizmetleri
• Finansal karar sistemleri
• Hukuk ve adalet uygulamaları
• Savunma sistemleri
• İnsan kaynakları süreçleri

Bir kişinin hayatını etkileyen kararlar söz konusu olduğunda “çünkü algoritma öyle söyledi” cevabı çoğu zaman yeterli kabul edilmiyor.

Yapay zekâ sistemlerinin yüksek doğruluk oranlarına sahip olması, her zaman doğru karar verecekleri anlamına gelmez. Eğitim verilerindeki önyargılar, eksik bilgiler veya beklenmeyen senaryolar hatalı sonuçlara yol açabilir. Örneğin geçmiş işe alım verileriyle eğitilen bir model, geçmişteki ayrımcı uygulamaları farkında olmadan devam ettirebilir. Benzer şekilde sağlık verilerinde belirli hasta gruplarının yeterince temsil edilmemesi, teşhis doğruluğunu düşürebilir. Karar mekanizmasının görünmez olduğu durumlarda bu hataların tespit edilmesi çok daha zor hale gelir.

Açıklanabilir Yapay Zekâ, bir yapay zekâ sisteminin nasıl karar verdiğini insanlar tarafından anlaşılabilir hale getirmeyi amaçlayan yöntemler bütünüdür. XAI sistemleri şu sorulara yanıt verebilir:

• Bu karar neden verildi?
• Hangi veriler daha etkili oldu?
• Kararı değiştirebilecek faktörler nelerdir?
• Model hangi değişkenlere ağırlık verdi?
• Sonucun güven seviyesi nedir?

Örneğin bir kredi değerlendirme sistemi, başvurunun reddedilmesinin nedenlerini gelir düzeyi, mevcut borç oranı veya ödeme geçmişi gibi faktörlerle açıklayabilir. Böylece kullanıcı yalnızca sonucu değil, sonuca giden yolu da görebilir. ^【2】

Geçmişte açıklanabilirlik çoğunlukla tercih edilen bir özellik olarak görülüyordu. Ancak günümüzde birçok sektörde yasal ve etik gereklilik haline dönüşüyor.

Bunun birkaç temel nedeni bulunuyor:

Bir yapay zekâ sistemi hata yaptığında sorumluluk kime ait olacak? Kararın neden verildiği bilinmiyorsa sorumluluğun belirlenmesi de zorlaşır.

Birçok ülkede yapay zekâ sistemlerinin şeffaf olması yönünde düzenlemeler geliştiriliyor. Özellikle insan haklarını etkileyen uygulamalarda açıklanabilirlik giderek daha önemli hale geliyor.

İnsanlar kendilerine açıklama sunan sistemlere daha fazla güven duyuyor. Şeffaflık, teknolojiye olan kabulü artırıyor.

Açıklanabilir modeller, sistem içerisindeki hataların ve önyargıların daha kolay fark edilmesini sağlıyor.

Yapay zekâ alanındaki ilerleme yalnızca daha güçlü modeller geliştirmekle sınırlı değil. Aynı zamanda bu modellerin insanlar tarafından anlaşılabilir hale getirilmesi de büyük önem taşıyor.

Gelecekte en başarılı yapay zekâ sistemleri yalnızca doğru sonuç verenler değil, aynı zamanda kararlarının gerekçelerini açıkça ortaya koyabilen sistemler olacak. Çünkü güven, teknolojinin benimsenmesinde performans kadar kritik bir unsur.

Açıklanabilir yapay zekâ da tam olarak bu ihtiyaca cevap veren en önemli yaklaşımlardan biri olarak öne çıkıyor. İnsanlar hayatlarını etkileyen kararları tamamen görünmez algoritmalara bırakmaya hazır değiller. Yapay zekânın toplumsal kabulü için şeffaflık, açıklanabilirlik ve hesap verebilirlik artık lüks değil; temel bir gereklilik. Açıklanabilir yapay zekâ da tam olarak bu ihtiyaca cevap veren en önemli yaklaşımlardan biri olarak öne çıkıyor.