Teknolojik aletler hayatımıza girmeye başladığından bu yana pek çok yetimizde temelden dönüşüm gerçekleştirdiler. İnsanoğlunun avlanmak için yonttuğu odun parçalarından bugün kullandığı akıllı telefonlara kadar bütün araçlar gündelik hayatımızı kökünden etkiledi. Bu etkiler pek çok zaman kullanıcılar olarak bizim kolayca farkına varamadığımız bir incelikle gerçekleşti. Son zamanlarda yoğun biçimde kullandığımız yapay zeka araçları da aynı dönüşümü gerçekleştiriyor.
Bedensel işlevlerimizi yerine getiren aletler, zamanla bu yetileri devraldığında, bizler de o işlevleri yitirmeye başlarız. Demirden yapılmış el aletleri hayatımıza büyük bir kolaylık getirmiş olsa da, kol kaslarının doğal becerilerini törpülüyor. Hesap makineleri sayesinde çok komplike işlemleri yapsak da makinesiz hesap yapma yetimiz köreliyor. Ancak bu ikame ilişkisi, en çarpıcı biçimde bilişsel yüklerimizi devrettiğimiz yapay zeka araçlarında kendini gösteriyor. Zihinsel faaliyetlerin otomasyona açılması belki de geri dönülemez bir bilişsel erozyonla beraber geliyor.
2022’de gelen ChatGPT anıyla birlikte büyük dil modelleri (LLM) hem kişisel hem profesyonel maksatlar için yaygın şekilde kullanılmaya başlandı. Çalışmalara göre LLM kullanımı ciddi üretkenlik artışları da getirdi. Ancak diğer birçok teknolojik araç gibi LLM’lerin de göz ardı edilmemesi gereken sınırlılıkları var. Peki bu araçlar bize ne verirken, bizden ne götürüyorlar?
MIT’de yapılan bir çalışma deneme yazma görevine odaklanarak bu soruya yanıt arandı. Çalışmada katılımcılar üç gruba ayrılıyor: Sadece bilişsel yetilerini kullananlar, arama motorlarından destek alanlar, ve ChatGPT gibi bir dil modeli kullananlar. Üç oturum boyunca her grup aynı araçla deneme yazdı. Dördüncü oturumda ise roller değiştirildi: LLM grubuna hiçbir araç kullanmadan yazmaları, sadece bilişsel yetilerini kullanan grubuna ise LLM kullanmaları istendi.
Araştırma, yalnızca yazıların içeriklerini değil, yazma sürecindeki bilişsel faaliyeti de inceledi. Katılımcıların beyin aktiviteleri EEG cihazlarıyla ölçüldü; yazılar hem insan eğitmenler hem de özel bir yapay zeka tarafından değerlendirildi. Ayrıca her oturum sonunda katılımcılarla birebir görüşmeler yapıldı.
Varılan sonuçlar oldukça çarpıcı:
-
LLM kullanan grubun beyin bağlantı yoğunluğu belirgin şekilde daha zayıf. Dış destek arttıkça beyin içi bağlantı ağlarının kapsamı küçülüyor.
-
Beyin taramaları beyin bağlantısında %47'lik bir azalma ortaya koyuyor.
-
Beyni tek başına kullanan grup, hem nöral düzeyde hem de yazı kalitesinde en yüksek performansı gösterdi.
-
LLM’den beyin kullanımına geçiş yapan katılımcıların bilişsel angajmanında düşüş gözlendi.
-
LLM’den destek alanların yazdıkları metinleri sahiplenme düzeyi düşük kaldı. ChatGPT kullanıcılarının %83,3'ü dakikalar önce yazdıkları makalelerden alıntı yapamıyor.
Çalışma, LLM kullanımının öğrenme hususundaki potansiyel etkilerini erken aşamada anlamaya dönük önemli bir adım. Dört ay boyunca süren gözlemler, yapay zeka desteğinin kısa vadede verimlilik gibi görünse de, uzun vadede öğrenme becerileri üzerinde olumsuz etkiler yaratabileceğine işaret ediyor. Böylece her ne kadar işlerimizi kolaylaştırma aracı olarak çok kullanışlı görünse de ilk bakışta fark edemediğimiz olumsuz yönleri de mevcut. Bunların başında da bilişsel yetilerimizin kökten tehdit edilmesi gelmekte.
Ancak bu çalışma bütünüyle karamsar bir tabloya işaret etmiyor. Elbette bilişsel eksilme sebebiyle hayatımızda bulunan bütün teknolojik araçlardan ve yapay zeka modellerinden tamamen ayrılmamız mümkün görünmüyor. Ancak bu konuda yapabileceğimiz bazı refleksler var. Özellikle düşünce gelişimimize eşlik eden yazı pratiğinden kopmamak önemli bir husus olarak ortaya çıkıyor. Bu durum son derece anlaşılır bir eğilimi yansıtıyor. Nasıl ki hesap makinesi bireysel hesap yeteneğini zayıflattı fakat toplam matematiksel üretkenliği artırarak matematiğin gelişimini hızlandırdıysa, yapay zeka da bireysel zihinsel kapasiteyi törpüleme pahasına insanlığın toplam çıktısını yükseltme potansiyeli taşıyor.
Peki insanlık, yük taşımayı kamyonlara devrettiği için kaslarının küçülmesinden şikayet etmezken, aynı rahat tavrı zihinsel yetenekler söz konusu olduğunda gösterecek midir? Muhtemelen hayır.
Yapay zekanın getirdiği üretkenlik ve verimlilik artışının bedeli, insanın zihinsel yetkinliğinin körelmesi ve kolektif bilişsel gerileme olmamalıdır. Tam da bu yüzden yapay zekanın hangi şekilde kullanılacağı üzerine daha fazla düşünmemiz gerekiyor.
Yeni Papa Yapay Zekaya Karşı
Katolik Kilisesi’nde göreve gelen papaların kendi dönemini karakterize eden bazı konuları öne çıkarması alışılageldik bir hadisedir. Yeni seçilen Amerikan papa da böyle bir temayül gösteriyor. Görevinin ikinci gününde kırmızı takkelere hitap ederken yapay zeka mevzusunu ele aldı. Kardinal topluluğuna hitaben yaptığı konuşmada, yapay zekanın insan onuruna, emeğe ve adalete yönelik potansiyel tehlikelerini vurgulayarak bu konuyu papalığının “imza meselesi” olarak ilan etti.
Papa XIV. Leo, ismini sanayi devrimi döneminde işçi haklarını vurgulayan XIII. Leo’dan aldığını söylüyor. Yeni Papa’ya göre bugün yine sanayi devrimine benzer bir eşikteyiz. Algoritmalar ve teknolojik platformlar geniş çapta bir sosyal dönüşümün habercisi.
Papa XIII. Leo, Şikago doğumlu ve matematik mezunu. Teknolojiye kendisinden önceki Papa Francis’ten daha hakim, ancak aynı ölçüde temkinli. Görevinin merkezine yapay zekanın potansiyel tehlikelerini yerleştiren Papa Leo’nun çıkışı, son yıllarda teknoloji devlerinin Vatikan’la kurduğu yakın ilişkiyi yeni bir sınavdan geçirecek gibi görünüyor. Zira Francis döneminde pek çok teknolojik girişimci Vatinkan’da yoğun mesailer harcamışlardı. Bu görüşmelerin varlığı teknolojinin yükselişinin Vatikan’dan çok da bağımsız olmadığını, yahut Vatikan’ın bu gelişimden uzak kalmak istemediğini gösteriyor.
Google, Microsoft, Cisco gibi şirketlerin üst düzey yöneticileri uzun süredir Vatikan'ı kazanmak, etik çerçevede destek almak ve kamuoyunda meşruiyet sağlamak için Roma’ya akın ediyordu. Ancak bu dostane temaslar her zaman aynı doğrultuda ilerlemedi. Vatikan bağlayıcı uluslararası yapay zeka düzenlemeleri talep ederken, Silikon Vadisi aynı seviyede bir düzenleme talebine karşılık vermiyor.
Rerum Novarum’dan Dijital Enkarnasyona
Papa Leo’nun çağrısı, bir geleneğe yaslanıyor. XIII. Leo’nun 1891 tarihli ünlü genelgesi Rerum Novarum, sanayi devriminin yol açtığı sosyal eşitsizliklere karşı Katolik sosyal öğretisinin temel taşını atmıştı. Bugünün Papa’sı ise aynı eşitsizliğin dijital formundan karşı ses yükseltiyor: yapay zekanın iş gücü üzerindeki etkileri, algoritmik tahakkümün tehlikeleri ve kararların insandan makineye devri.
Papa Leo, Kilise’nin ahlaki otoritesini yapay zekaya karşı bir insani denge noktası kurmak için kullanmaya hazırlandığını sinyalliyor. Bütünüyle teknolojik kabulden ziyade daha mesafeli bir yerde durmaya meyyal. Ancak Papa’yı bu kadar endişelendiren şey ne?
Teknolojik gelişmelerin doğası üzerine düşünürken göze almamız gereken bir detay da dini otoritelerin bu kadar dikkatini celb etmesi olacağa benziyor. Bu etkileşimden yola çıkarak teknolojinin sanıldığı kadar nötr bir gelişim serüvenine sahip olmadığı, dini vizyonun da kapsamında bir serencamı olduğu söylenebilir. O halde bu tip dışsal etkilerin farkına varmak ve teknolojinin etkilendiği aktörleri fark ederek ona erişmek, kullanıcılar olarak üzerimize düşen temel sorumluluklardan biri olarak karşımızda.