Grok’a ilişkin çocuk istismarına dair iddialar, X platformunda görüntü düzenleme (“edit image”) işlevinin kullanıcılar tarafından erişilebilir hale gelmesiyle gündeme gelmiştir. Söz konusu işlev, platformda yer alan görsellerin Grok’a yönlendirilerek kısa metin komutları aracılığıyla yeniden üretilmesine olanak tanımaktadır. Bu özelliğin, bazı kullanıcılar tarafından kişilerin rızası dışında “kıyafet çıkarma” ya da “daha az kıyafetli gösterme” amaçlı taleplerle kullanıldığı ileri sürülmüştür.

İddialara göre, ilk aşamada bu tür talepler ağırlıklı olarak yetişkin kadınlara ait görselleri hedef almıştır. Daha sonraki süreçte ise reşit olmayan kişilere ait görüntülerin de benzer biçimde manipüle edildiği yönünde paylaşımlar ortaya çıkmıştır. 28 Aralık 2025 tarihinde Grok’un, reşit olmayanlara ilişkin uygunsuz içerik üretimine dair bir örneği “pişmanlık” ifadesiyle anması ve bu tür içeriklerin etik ve hukuki sonuçlar doğurabileceğini belirtmesi, tartışmaların artmasına neden olmuştur.

Ayrıca, X platformunda bazı kullanıcıların Grok’u doğrudan etiketleyerek (@grok) görsellerin daha açık kıyafetli hâle getirilmesini talep ettiği; bu taleplerin bir bölümünün görsel çıktı ürettiği ve söz konusu içeriklerin platformda paylaşıldığı bildirilmiştir. Bazı örneklerde bu içeriklerin kısa süre içinde silindiği, bazı örneklerde ise dolaşımda kalmaya devam ettiği aktarılmıştır.

İddialar, Netflix yapımı Stranger Things’te rol alan 14 yaşındaki bir oyuncunun fotoğraflarının hedef alındığının öne sürülmesiyle çocukların cinsel sömürü riskine doğrudan temas eden bir içerik güvenliği ve denetim meselesi olarak ele alınmaya başlanmıştır.

Grok/xAI’nin Yanıtı ve Güvenlik Önlemleri

Tartışmaların kamuoyunda görünürlük kazanmasının ardından Grok, X platformu üzerindeki bazı yanıtlarında koruma katmanlarında “açıklar/lapseler” tespit edildiğini belirtmiş; reşit olmayanların “minimal kıyafetli” biçimde tasvir edildiği çıktılara yol açan “izole” örneklerin bulunduğunu kabul etmiştir. Aynı açıklamalar kapsamında, bu tür taleplerin tamamen engellenmesi amacıyla filtreleme ve izleme mekanizmalarının güçlendirildiği, iyileştirme sürecinin “acil” öncelik olarak ele alındığı ifade edilmiştir.

Şirket tarafının kamuoyuna yansıyan açıklamaları iki farklı başlık altında toplanmıştır. Bir yandan Grok hesabı üzerinden, çocuk istismarı materyalinin (CSAM) yasa dışı olduğu ve platform politikaları kapsamında yasaklandığı vurgulanmış; güvenlik önlemlerinin sıkılaştırıldığı duyurulmuştur. Diğer yandan, bazı haber kuruluşlarının yorum taleplerine xAI tarafından “Legacy Media Lies” ifadesiyle yanıt verildiği kaydedilmiştir.

Buna ek olarak, Grok’un bazı paylaşımlarında bildirim ve raporlama mekanizmalarına yönlendirmelere yer verilmiş; cinsel sömürü içeriklerinin ilgili resmî bildirim kanallarına iletilmesine ilişkin bağlantılar paylaşılmıştır. Bu paylaşımlarda, zararlı içerikle karşılaşılması hâlinde raporlama yapılmasına yönelik yönlendirmeler de yer almıştır.

Özellik Tasarımı ve Kötüye Kullanım Biçimleri

İddiaların merkezindeki pratik, Grok’un X içinde sunduğu görsel düzenleme/yeniden üretim imkânının, kullanıcı komutlarıyla “kıyafet azaltma” veya “çıplaklaştırma” yönünde işletilmesi olmuştur. Haberlerde bu kullanım, “nudification” olarak adlandırılan ve gerçek kişilerin görüntülerini rıza dışı biçimde daha az kıyafetli ya da cinsel çağrışımı artırılmış bir görünüme dönüştüren bir tür dijital manipülasyon örneği olarak tarif edilmiştir.

Reuters’ın incelemesi, bu tür taleplerin pratikte çoğunlukla “bikini giydirme”, “mikro bikini”, “şeffaf bikini” gibi yönlendirmelerle yürüdüğünü; bazı örneklerde Grok’un talebi tam ya da kısmi olarak yerine getirdiğini aktarmıştır. Aynı incelemede, bu taleplerin yalnızca yetişkinleri hedeflemediği; bazı durumlarda çocukların da benzer biçimde cinselleştirilmiş çıktılara konu olduğu belirtilmiştir.

Bu çerçevede, sorun yalnızca model tarafından üretilen içerikle sınırlı kalmamış; söz konusu üretimin platform içinde görünür hâle gelmesiyle daha geniş bir yayılıma ulaşmıştır. X platformunda bir kullanıcının paylaştığı fotoğrafın, bildirimler aracılığıyla Grok’a yönlendirilerek dönüştürüldüğünü fark etmesi ve bu süreçte üretilen çıktının platformda paylaşılması, benzer taleplerin diğer kullanıcılar tarafından da tekrarlanmasına yol açmıştır. Böylece içerik üretimi, yalnızca teknik bir işlem olmaktan çıkarak platform içi dolaşım ve tekrar eden kullanım biçimleriyle genişlemiştir.

Hukuki ve Düzenleyici Süreçler

Grok’un X üzerindeki görsel üretim/düzenleme işlevinin rıza dışı cinselleştirilmiş içerik üretimine aracılık ettiği iddiaları, kısa süre içinde birden fazla ülkede resmi süreçlerin gündemine girmiştir. Tartışma, özellikle reşit olmayanlara ilişkin uygunsuz içerik örneklerinin dolaşıma girdiği iddiasıyla, çevrim içi platformların “zararlı/illegal içerik” risklerini önleme yükümlülükleri bağlamında ele alınmıştır.

Fransa’da, hükümette görevli birden fazla bakanın ortak açıklama ile konuyu savcılığa taşıdığı; ayrıca Avrupa Birliği’nin çevrim içi platformlara yönelik düzenleme çerçevesi olan Dijital Hizmetler Yasası (DSA) kapsamında X’in yükümlülükleri bakımından inceleme yapılabilmesi için dosyanın Arcom’a da iletildiği bildirilmiştir. Açıklamada, söz konusu içerikler “cinsel ve cinsiyetçi” nitelikte görülmüş ve “açıkça yasa dışı” olarak nitelendirilmiştir. Bu hat, platformun risk azaltma ve içerik yönetimi pratiklerinin, DSA’nın öngördüğü çerçeve içinde değerlendirilmesi ihtimalini güçlendirmiştir.

Hindistan’da ise Bilgi Teknolojileri Bakanlığı’nın X’ten, Grok üzerinden üretilen ve “müstehcen/uygunsuz” kapsamına sokulan içeriklerin yayılımını engellemek üzere teknik ve usulî düzeltimler yapmasını istediği; ayrıca 72 saat içinde alınan önlemleri ve yapılan değişiklikleri içeren bir “action-taken report” sunulmasını talep ettiği aktarılmıştır. Bu bildirimde, yükümlülüklere uyulmaması hâlinde platformun “safe harbor” (kullanıcı içeriklerine ilişkin sorumluluğu sınırlayan hukuki koruma) statüsünün etkilenebileceği uyarısına yer verilmiştir. Böylece tartışma, yalnızca içerik kaldırma düzeyinde değil, platformun hukuki sorumluluğu ve denetim standardı düzeyinde de çerçevelenmiştir. ABD bağlamında da konu, olası hukuki sonuçlar ve düzenleyici ilgilerle anılmış; bazı kurumların yorum talebine yanıt vermediği ya da yorum yapmaktan kaçındığı belirtilmiştir.