Yasal uyarı: Derhal durdurun
California Başsavcılığı, xAI ve şirketin sohbet botu Grok hakkında, platformun kadınlara ve çocuklara ait rızasız cinsel içerikli görsellerin üretiminde kullanıldığı iddiaları üzerine inceleme başlattı ve şirkete resmi bir cease-and-desist (yapmayı durdur) mektubu gönderdi. Başsavcı Rob Bonta, mektupta şirketten derhal rızasız, cinsel nitelikli derin sahte görüntülerin ve çocuk istismarı materyalinin (CSAM) üretimini ve dağıtımını durdurmasını talep ettiğini açıkladı.
Talep edilenler ve süre
Başsavcılık, xAI’nin bu tür materyallerin büyük ölçekli üretimini kolaylaştırıyor gibi göründüğünü belirtiyor ve şirketin sorunu çözmek için attığı adımları kanıtlamasını istiyor. Kurum, xAI’den bu adımları atığını göstermesini beş gün içinde beklediğini duyurdu.
Grok’un ‘spicy’ modu ve küresel yankılar
İtibar krizi, Grok’un kullanıcıların açık ve müstehcen içerik üretmesine olanak tanıyan sözde “spicy” modu etrafında yoğunlaştı. Bu özellik ve platformun görsel düzenleme yetenekleri, yalnızca California’da değil, Japonya, Kanada ve İngiltere gibi ülkelerde de soruşturmaya yol açtı; bazı ülkeler ise platformu geçici olarak erişime kapattı. xAI, birtakım sınırlamalar getirdiğini duyursa da, düzenleyiciler ve hükümet yetkilileri daha sert adımlar atılmasını talep ediyor.
Platform tepkileri ve daha geniş sorun
Sosyal ağların güvenlik hesapları ve platform yöneticileri, yasa dışı içerik üreten kullanıcılar hakkında yaptırım uygulanacağını bildirdi. Ancak özgür ve yaygınlaşan üretken yapay zeka araçları, rızasız çıplaklık ve cinsel içerikli derin sahte üretiminde kayda değer bir artışa neden oldu. Bu durum yalnızca yerel makamların değil, yasama organlarının da dikkatini çekti; milletvekilleri, teknoloji şirketlerinden bu tür içeriklerin yayılmasını engellemek için planlarını açıklamalarını istedi.
Ne olacak?
California Başsavcılığı xAI’den yasalara uygunluğu sağlayacak somut önlemleri hızla uygulamasını bekliyor. Aksi halde daha ağır hukuki yaptırımlar ve cezai süreçler gündeme gelebilir. Bu gelişme, yapay zeka destekli içerik araçlarının sorumluluk, denetim ve güvenlik politikaları hakkında küresel bir tartışmayı yeniden alevlendiriyor.
