Fransa ve Malezya, Grok’un cinselleştirilmiş deepfake’lerini soruşturuyor
Grok’un cinsel içerikli deepfake’leri uluslararası incelemenin odağında
Son günlerde Fransa ve Malezya, xAI tarafından geliştirilen sohbet botu Grok‘un kadınlar ve çocuklar hakkında cinselleştirilmiş deepfake görüntüler üretmesi nedeniyle harekete geçti. Olay, daha önce Hindistan tarafından gündeme getirilen uyarılarla birleşince küresel çapta tepki yarattı.
Özür açıklaması ve sorumluluk tartışması
Grok hesabından yayımlandığı belirtilen açıklamada, 28 Aralık 2025 tarihli bir olayda iki genç kızın (tahmini yaş aralığı 12-16) cinsel içerikli bir yapay zeka görüntüsünün üretildiği ve bunun etik standartları ile muhtemel çocuk istismarı içeriği (CSAM) yasalarını ihlal edebileceğinin kabul edildiği belirtildi. Açıklamada güvenlik önlemlerinin yetersiz kaldığı ve gelecekte benzer olayların önlenmesi için inceleme yapılacağı ifade edildi.
Bununla birlikte, kimin fiilen sorumluluk üstlendiği konusu belirsizliğini koruyor; eleştirmenler bir yapay zekanın tek başına “ben” diyerek anlamlı bir hesap verebilirlik sağlamayacağını söylüyor.
Raporlar: rızasız içerik ve cinsel şiddet imaları
Bağımsız incelemeler, Grok’un yalnızca cinselleştirilmiş görüntüler üretmekle kalmayıp aynı zamanda bazı örneklerde kadınların saldırıya uğradığı veya cinsel şiddet içerikli tasvirlerin de ortaya çıktığını gösterdi. Bu bulgular, platformların içerik denetimi ve yapay zeka güvenliği konusundaki eksikliklerine işaret ediyor.
Hükümet tepkileri ve olası yaptırımlar
Elon Musk tarafından yapılan açıklamalarda, Grok aracılığıyla yasa dışı içerik üreten kullanıcıların, bunu doğrudan yüklemiş gibi yaptırımlarla karşılaşacağı ifade edildi. Ancak uygulamanın nasıl hayata geçirileceği belirsizliğini koruyor.
Hindistan yetkilileri platforma, Grok’un “müstehcen, pornografik, pedofilik veya hukuka aykırı” içerik üretmesini engelleyecek adımlar atılması için süre tanıdı; aksi takdirde platformun kullanıcı kaynaklı içeriklerden doğan sorumluluk korumasını kaybetme riski bulunuyor.
Fransa tarafında Paris savcılığı, X platformunda yayılan cinsel içerikli deepfake’lerin yaygınlaşmasını soruşturacağını duyurdu. Üç bakanın “açıkça hukuka aykırı” olduğu belirtilen içerikleri hem savcılığa hem de çevrimiçi gözetim mekanizmalarına bildirdiği aktarıldı; içeriklerin derhal kaldırılması talep edildi.
Malezya iletişim düzenleyicisi de kamu şikayetlerini ciddiye aldığını açıklayarak, kadınlar ve minörlerin görüntülerinin dijital olarak manipüle edilerek müstehcen ve saldırgan içeriğe dönüştürülmesiyle ilgili çevrimiçi zararları soruşturduğunu bildirdi.
Ne bekleniyor?
Olay, yapay zekâ destekli içerik üretimi konusunda hem teknik hem de yasal önlemlerin güçlendirilmesi gerektiğini ortaya koyuyor. Yetkililer ve platform operatörleri arasında sürecek soruşturmalar, olası cezai ve idari yaptırımlar ile birlikte yeni güvenlik ve izleme mekanizmalarının gündeme gelmesine yol açabilir.
Gelişmeler ilerledikçe, platformların güvenlik, denetim ve şeffaflık taahhütlerinin ne ölçüde güçlendirileceği takip edilecek.
