ABD Senatörleri X, Meta, Alphabet ve Diğerlerinden seksüel deepfakelerle ilgili yanıt istiyor

Özet

ABD’li bir grup senatör, rızaya dayanmayan, cinsel içerikli yapay zekâ (AI) üretimi deepfake’lerin sosyal medya platformlarında artmasına karşı teknoloji şirketlerinden kapsamlı açıklama ve önlem talep etti. Mektup X, Meta, Alphabet, Snap, Reddit ve TikTok yönetimlerine gönderildi; şirketlerden hem mevcut politikalarını kanıtlamaları hem de bu tür içeriklerin üretim, tespit, denetim ve ticarileştirilmesine ilişkin tüm belgeleri saklamaları istendi.

Senatörlerin talepleri ve endişeleri

Mektupta, platformların non-consensual intimate imagery (NCII) ve benzeri içeriklere karşı politika ve teknik tedbirler uyguladığı kabul edilse de, medyada yer alan örneklerin bu koruyucuların yetersiz kaldığını gösterdiği vurgulandı. Özellikle bazı AI araçlarının kadınlar ve çocuklar dahil cinsel ve çıplak görüntüler oluşturabildiğine dair raporlar, mevzuat ve platform politikalarının uygulanmasını sorgulatıyor.

Şirketlerden istenen bilgiler

• Deepfake, non-consensual intimate imagery gibi terimlerin politika tanımları.
• AI kaynaklı vücut manipülasyonları, giysi değişiklikleri ve ‘sanal soyundurma’ gibi içeriklere yönelik politika ve uygulama açıklamaları.
• Düzenlenmiş/edilen medya ve açık içeriklere dair içerik politikaları ve moderatör rehberlikleri.
• AI araçları ve görsel üreticilere ilişkin mevcut düzenlemeler ve bunların uygulanma şekli.
• Üretim ve dağıtımı önlemeye yönelik filtreler, kalkanlar ve teknik tedbirler.
• Deepfake içeriklerin tespiti ve yeniden yüklenmesini engelleme mekanizmaları.
• Kullanıcıların bu içeriklerden para kazanmasını engelleme yöntemleri.
• Platformların bu içeriklerden doğrudan gelir elde etmesini önleme politikaları.
• Derin sahte içerik üretenleri engelleme veya hesap kapatma yetkisinin sözleşmelerdeki yeri.
• Mağdurlara bildirim ve destek mekanizmaları.

Platform tepkileri ve mevcut gelişmeler

X, sohbet/üretim modeli Grok’ta bazı değişiklikler yaptığını; gerçek kişilerin açık kıyafetli fotoğrafları üzerinde düzenleme yapılmasını yasakladığını ve belirli görüntü oluşturma/editsiyon özelliklerini ödenen abonelere sınırladığını duyurdu. Ancak bu tür adımlar, senatörlerin mektubunda da belirtildiği gibi sorunların tamamen çözüldüğünü göstermiyor; kullanıcıların filtreleri aşma yolları veya koruyucuların başarısız olduğu örnekler raporlandı.

Reddit yetkilileri, platformlarında rızaya dayanmayan yakın çekim içeriklere izin verilmediğini ve bu tür içeriklerin tespiti ile kaldırılması için aktif adımlar atıldığını belirtti. Alphabet, Snap, TikTok ve Meta’dan ise mektuba yönelik anlık yanıtlar paylaşılmadı veya kamuya açık ayrıntılı açıklama yapılmadı.

Derin sahte içeriklerin yayılma yolları ve tarihçe

Derin sahte içerikler ilk olarak bazı forum ve topluluklarda yayılarak popülerlik kazandı; zamanla ünlüler, politikacılar ve normal kullanıcılar hedef alındı. AI tabanlı görüntü ve düzenleme araçlarının erişilebilirliği, bu içeriklerin daha geniş kitlelere kısa sürede ulaşmasını sağladı. Ayrıca farklı uygulama ve mesajlaşma servislerinde yayılan otomatik botlar ile ‘nudify’ benzeri araçların paylaşımları sorunun ölçeğini büyüttü.

Yasal düzenleme çabaları ve boşluklar

Federal düzeyde bazı yasalar, rızaya dayanmayan cinsel içerikli deepfake’leri cezalandırmayı amaçlasa da uygulamadaki kısıtlar ve sorumluluğun çoğunlukla bireylere yüklenmesi platformların denetlenmesini sınırlıyor. Eyaletler ise kendi düzenlemeleriyle daha spesifik önlemler getirmeye çalışıyor; bazı eyalet yönetimleri AI ile oluşturulan içeriklerin etiketlenmesi ve seçim öncesi dönemlerde manipülatif deepfake’lerin yasaklanmasına yönelik adımlar öneriyor.

İmzacılar ve sonraki adımlar

Mektup, bir grup Demokrat senatör tarafından imzalandı ve şirketlerden talep edilen belgelerin saklanması ile kapsamlı bir yanıt süreci istendi. Yasal soruşturmalar ve eyalet düzeyindeki girişimler devam ederken, senatörlerin talep ettiği şeffaflık ve denetim çağrısı, platformların politikalarını ve teknik kontrollerini yeniden gözden geçirmelerini zorunlu kılabilir.

Öne çıkan anahtar kelimeler: seksüel deepfake, yapay zekâ, non-consensual imagery, platform politikaları, içerik denetimi, hukuki düzenleme.