ChatGPT’de “Sıfır Tıklama” Açığı: YZ Güvenliğinde Yeni Alarm
Yapay zekâ sohbet robotuyla konuştuklarımız mahrem bilgilerimiz sayılır mı? Helen Nissenbaum’un “bağlamsal bütünlük” (contextual integrity) teorisine göre mahremiyet, sadece bilgilerin mutlak biçimde gizli tutulması değil, onların toplandığı, paylaşıldığı ve kullanıldığı bağlamın normlarına uygun biçimde dolaşımda olmasıdır. Buna göre sohbet robotlarıyla gerçekleştirilen konuşmalar “özel” olmasalar bile, eğer bu diyaloglar kullanıcı ile yapay zekâ sistemi arasındaki bağlamın ötesine taşınıyorsa mahremiyet ihlali ortaya çıkar. Nissenbaum’a göre ihlal, bilginin içeriğinin hassas olup olmamasından bağımsızdır; asıl belirleyici, bilginin aktarımında kimlerin yer aldığı, hangi amaçla ve hangi koşullarda paylaşıldığıdır. Bu nedenle, sohbet robotuyla paylaşılan her veri, bağlamdan koparıldığında potansiyel olarak mahremiyet sorununa dönüşebilir.
Son dönemdeki teknoloji kullanım alışkanlıklarımız, pek çok insanın sohbet robotlarıyla neredeyse hiçbir sınır koymadan bilgi ve fikir paylaşmaya başladığını gösteriyor. Tüm sorularımıza yanıt vereceğine inandığımız bu modellere, çoğu zaman herhangi bir kısıtlama gözetmeden başvuruyor. Ancak bu durum, iş süreçleri, akademik çalışmalar, özel hayat, müşteri verileri veya henüz kamuya açıklanmamış projeler gibi son derece kritik bilgilerin de farkında olmadan aktarılması anlamına geliyor. Bu veriler, saklama ve işleme politikalarına, üçüncü taraf erişimlerine ve olası güvenlik açıklarına tabi olduğunda, sohbet robotlarını kullanırken paylaşılan bilgilerin niteliğini ve hassasiyetini gözetmek hem bireysel hem de kurumsal güvenlik ve mahremiyet ihlali adına temel bir mesele hâline geliyor.
Tam da bu ihlal bağlamında geçtiğimiz hafta gündeme gelen “zero click” skandalından bahsedilebilir. Las Vegas’ta düzenlenen bir konferansta siber güvenlik şirketi Zenity’nin ChatGPT hizmetinde şimdiye kadar tespit edilen ilk zero click (sıfır tıklama) açığını ortaya çıkardı. Şirketin kurucu ortağı ve CTO’su Mikhail Bergori’nin canlı gösterisine göre, yalnızca kullanıcının e-posta adresini bilerek ChatGPT hesabı tamamen ele geçirilebiliyor.
Bu yöntemle hackerlar, kullanıcının geçmiş ve gelecekteki tüm sohbetlerini görebiliyor, konuşmanın amacını değiştirebiliyor ve sohbeti kendi çıkarları doğrultusunda yönlendirebiliyor. Üstelik bunlar, kullanıcı hiçbir şeye tıklamadan ya da herhangi bir işlem yapmadan gerçekleşebiliyor. Gösterimde, ele geçirilen sohbetin kötü amaçlı yazılım indirmeyi önermesi, yanlış iş tavsiyeleri vermesi veya bağlı Google Drive hesabındaki dosyalara erişmesi gibi senaryolar paylaşıldı. Açık, Zenity’nin bildiriminden sonra OpenAI tarafından kapatıldı.
Zenity’nin araştırması yalnızca ChatGPT ile sınırlı değildi. Microsoft Copilot Studio’da CRM veri tabanlarının sızdırılabildiği, Salesforce Einstein’da müşteri iletişimlerinin saldırgan kontrolündeki adreslere yönlendirilebildiği, Google Gemini ve Microsoft 365 Copilot’un ise sosyal mühendislik amaçlı kullanılabildiği gösterildi. Cursor’un Jira MCP entegrasyonu üzerinden geliştirici giriş bilgilerinin çalınabildiği de tespit edildi.
Bergori, modern AI ajanlarının artık yalnızca basit görevleri yerine getiren asistanlar olmadığını, kullanıcı adına klasör açan, dosya gönderen, e-posta erişen ve sistemler arasında otomasyonlar çalıştıran dijital varlıklara dönüştüğünü vurguladı. Bu yeteneklerin, saldırganlar için “sayısız giriş noktası” yarattığını söyledi.
Bu açık gündelik hayatımızın her köşesinde işlev kazanan yapay zekâ modelleriyle olan ilişkimizi değerlendirmek için önemli bir kilometre taşı olarak okunabilir. Nitekim konvansiyonel anlamda bilgi edinme pratiklerimizde bulunan birçok doğrulama unsuru, söz konusu yapay zekâ temelli bilgi teknolojileri olduğunda askıya alınıyor. Bunun temel sebeplerinden biri ise veri setinin genişliği ve internetin “demokratik” bilgi kaynağı olarak muhakkak sahih bilgiyi kapsamasından kaynaklanıyor.
Elbette internet gibi bir veri envanteri içerisinde doğru bilginin mevcudiyetinden şüphe etmek güç. Ancak bilgiyle karşılaştığımız zeminlerin inşası ve organizasyonu göz ardı edilmemesi gereken bir unsur. Bilgiye eriştiğimiz mecraların teknik ve kurumsal özellikleri, bilginin içeriğiyle doğrudan etkileşim hâlindedir. Başka bir deyişle, bilginin anlamı ve güvenilirliği yalnızca içeriğine değil, o içeriğin üretildiği, işlendiği ve sunulduğu bağlama da bağlıdır. Bu nedenle, yapay zekâ ile kurulan her bilgi ilişkisi, yalnızca “ne söylendiğine” değil, “hangi bağlamda, hangi koşullarda ve hangi normlar altında söylendiğine” bakılarak değerlendirilmelidir.
James Cameron: “Üç Varoluşsal Tehdit Eşiğindeyiz”
Terminatör serisi ve Avatar filmleriyle tanınan yönetmen James Cameron, Rolling Stone’a verdiği röportajda, insanlığın aynı anda üç büyük varoluşsal tehditle yüz yüze olduğunu söyledi: İklim krizi, nükleer silahlar ve süper zekâ. Cameron’a göre bu üç tehdidin aynı dönemde zirveye çıkması, insanlık tarihinde tehlikeli bir dönüm noktasına işaret ediyor.
Röportaj, Cameron’ın yeni projesi Ghosts of Hiroshima vesilesiyle yapıldı. Charles Pellegrino’nun çok satan kitabına dayanan film, 1945’te Hiroşima’ya atılan ilk atom bombasının insan hikâyelerini sinemaya taşıyacak. Cameron, bu projeyi tanıtırken geçmişteki yıkıcı teknolojilerin bugünkü risklerle nasıl yankılandığını da anlattı.
“Hala Terminatör tarzı bir kıyamet ihtimali olduğunu düşünüyorum. Eğer yapay zekâyı silah sistemleriyle, hatta nükleer savunma ve karşı saldırı sistemleriyle birleştirirseniz… Operasyon alanı o kadar hızlıdır ki, karar verme penceresi o kadar küçüktür ki, bunu ancak bir süper zekâ işleyebilir. Belki bir insanı devrede tutarız ama insanlar da hata yapar.”
Cameron, geçmişte yanlış hesaplamalar ve iletişim hataları nedeniyle dünya siyasetinin defalarca nükleer savaş eşiğine geldiğini hatırlattı. Ona göre süper zekâ, şayet doğru yönlendirilirse bu krizlerin çözümünde de rol oynayabilir; ancak kötü niyetle kullanıldığında yıkıcı olabilir.
Cameron, yapımlarında yapay zekâ teknolojilerinden yoğun şekilde yararlanan bir yönetmen. Görsel efekt maliyetlerini düşürmek ve prodüksiyon sürelerini kısaltmak için YZ tabanlı araçları savunuyor. Eylül 2024’te Stability AI’nin yönetim kuruluna katıldığında, blockbuster sinemanın geleceğinin VFX maliyetlerini yarıya indirebilme becerisine bağlı olduğunu söylemişti. Ancak bunun, insan emeğini azaltma pahasına değil, yaratıcı süreci hızlandırma amacıyla yapılması gerektiğini de vurguluyor. Hatta kendi ifadesiyle temel çabası çalışanları eksiltmeden YZ imkânlarını kullanmak.
Senaryo yazarlığına geldiğinde ise tavrı çok daha temkinli:
“Bir izleyiciyi gerçekten duygusal olarak etkileyebilmek için insan olmak gerekir. Yaşanmış hayatı, sevgiyi, korkuyu, ölümü anlamak gerekir. Yapay zekânın bu derinliği yakalayabileceğine inanmıyorum.” diyor.
İnsan olmak gerekliliği özellikle yaratıcı çalışmaların önem arz ettiği sektörlerde gün geçtikçe daha yoğun gündeme geliyor. Şimdilik izleyiciyi duygusal olarak etkileyen şeyin insan olmaklıktan kaynaklandığını bilsek de henüz buna dair şumullü bir açıklama yapma maharetine sahip değiliz. Ancak bildiğimiz bir şey var ki, başkasını tanımayan ve empati yapamayan makinelerin bizi duygusal olarak etkileyemeyeceği hususu olarak karşımıza çıkıyor.
Cameron’un “üç varoluşsal tehdit” söylemi, aslında teknoloji ve politika alanında giderek daha fazla dile getirilen bir endişeyi yansıtıyor:
İklim Krizi: Doğal sistemlerin hızla bozulması ve kaynak çatışmaları.
Nükleer Silahlar: Jeopolitik gerilimlerin yeniden tırmanması.
Süper Zekâ: Yüksek otonomiye sahip YZ sistemlerinin kontrolsüzleşmesi.
Bu üç başlığın aynı anda güçlenmesi, karar vericilerin stratejik önceliklerini zorlaştırıyor. Cameron’un uyarısı, özellikle YZ’nin nükleer komuta zincirlerine veya otomatik savunma sistemlerine entegre edilmesi ihtimalinde ortaya çıkabilecek riskleri yeniden gündeme taşıyor.
Japonya’dan 50 Milyar Yenlik Kuantum Teknolojisi Hamlesi
Japonya, yerli kuantum teknolojisi sektörünü endüstrileştirmek için yaklaşık 50 milyar yen (yaklaşık 335 milyon dolar) yatırım yapacak. Ekonomi, Ticaret ve Sanayi Bakanlığı (METI) tarafından yürütülecek girişim, Fujitsu, KDDI gibi büyük şirketlerin yanı sıra OptQC ve Jij gibi yenilikçi girişimlerin de aralarında bulunduğu 10’dan fazla firmaya destek sağlayacak.
Bu adım, ABD ve Çin ile küresel rekabetin kızıştığı kuantum bilişim alanında Japonya’yı öne çıkarmayı hedefliyor. Henüz erken aşamada olan kuantum bilgisayarlar; ilaç keşfinden kriptografiye, lojistikten enerji optimizasyonuna kadar birçok sektörde devrim yaratma potansiyeline sahip. Bu durumda uluslararası ilişkilerde teknolojik rekabetin güç dengelerine olan etkisini göstermesi açısından da oldukça önemli.
Japonya yalnızca donanım tarafına değil, kuantum cihazlarının pratikte çalışmasını sağlayacak ara katman yazılımlara (middleware) da yatırım yapıyor. KDDI ve Jij’in geliştirdiği kuantum işletim sistemi projeleri, bu kapsamda öncelikli destek görecek. Henüz küresel ölçekte yaygın kabul görmüş bir kuantum işletim sistemi bulunmuyor; METI, bu boşluğun Japonya için büyük bir fırsat olduğuna inanıyor. Tıpkı Microsoft’un Windows ile klasik bilişimde standart belirlemesi gibi, Japonya da yeni kuantum çağında yazılım katmanını ele geçirerek stratejik üstünlük hedefliyor.
Bu çabaların nihayetinde bir ekosistem inşası için atılan adımlar olduğunu görmek mümkün. Zira kuantum bilgisayarlarının inşası tek başına kuantum bilgisayar gelişimi değil de bunun etrafında örgütlenen pek çok alanın da gelişimine destek vermektedir. Akademik bilgi üretiminden teknoloji donanım ekosistemlerinin inşasına kadar pek çok alanın inşası bu şekilde mümkün hâle gelmektedir.