Gizlilik ve dijital haklar savunucuları, beklenmedik bir şekilde, intikam pornosu ve yapay zeka tarafından üretilen derin sahte içeriklere karşı federal bir yasaya tepki gösteriyorlar.
Yeni imzalanan Take It Down Act, rıza dışında yayımlanan cinsel içeriklerin – gerçek veya yapay zeka ile oluşturulmuş – yasaklanmasını öngörüyor. Yasaya göre, platformların mağdurların içeriğin kaldırılması talebine 48 saat içinde yanıt vermesi gerekiyor; aksi takdirde sorumluluk alacaklar. Bu yasaya genel olarak olumlu bakılsa da, uzmanlar belirsiz dilinin, iddiaların doğrulanması için gevşek standartların ve sıkı uyum sürelerinin, aşırıya kaçma, meşru içeriğin sansürü ve hatta gözetim gibi olumsuz sonuçlar doğurabileceği konusunda uyarıyorlar.
Electronic Frontier Foundation’dan India McKinney, “Büyük ölçekli içerik moderasyonu genellikle sorunludur ve önemli olan ve gerekli olan ifadelerin sansürlenmesine yol açar” dedi.
Çevrimiçi platformların, rıza dışı samimi görüntülerin kaldırılması için bir süreç oluşturması için bir yılı var. Yasa, kaldırma taleplerinin mağdurlardan veya temsilcilerinden gelmesini zorunlu kılıyor; ancak yalnızca fiziksel veya elektronik bir imza isteniyor, fotoğraf kimliği veya başka bir doğrulama şekli gerekmiyor. Bu durum, mağdurlar için engelleri azaltmayı hedeflese de, kötüye kullanım fırsatları yaratabilir.
McKinney, “Yanlış çıkmayı umuyorum ama queer ve trans insanları ilişkilere dair görüntülerin kaldırılması için daha fazla talep olacağını düşünüyorum, ayrıca bu, rızaya dayalı pornografi için de geçerli olacaktır” şeklinde konuştu.
Yasa tasarısının eş-sponsorlarından olan Senatör Marsha Blackburn, çocukları çevrimiçi zararlı içeriklerden korumak için platformları sorumlu tutan Kids Online Safety Act‘i de desteklemiştir. Blackburn, transgender içeriklerin çocuklara zarar verdiğine inandığını ifade etti.
Bu yasanın, platformların 48 saat içinde bir görüntüyü kaldırmadıkları takdirde karşılaşacakları sorumluluk nedeniyle, “varsayılan olarak görüntüyü kaldıracaklar ve bu durumun gerçekten rıza dışı içerik olup olmadığını araştırmadan hareket edecekler” dedi McKinney.
Snapchat ve Meta, yasayı desteklediklerini belirttiler; ancak, kaldırma talebinde bulunan kişinin mağdur olduğunu nasıl doğrulayacaklarına dair daha fazla bilgi vermediler.
Decentralized platform olan Mastodon, mağdurun doğrulanmasının zor olması durumunda kaldırma yönünde eğilim göstereceğini ifade etti.
Bu platformlar, bağımsız olarak işletilen sunuculara dayanıyor ve yasaya göre, FTC, kaldırma taleplerine “makul bir şekilde uymayan” bir platformu “haksız veya aldatıcı bir eylem” olarak değerlendirebilir.
Proaktif İzleme
McKinney, platformların, ileride daha az problemli gönderi ile karşılaşmak amacıyla içerikleri yayılmadan önce denetlemeye başlayacaklarını öngörüyor.
Platformlar, zararlı içerikleri izlemek için zaten yapay zeka kullanıyorlar. Kevin Guo, AI tabanlı içerik tespit girişimi olan Hive’in CEO’su, şirketinin çevrimiçi platformlarla derin sahte içerikleri ve çocuk cinsel istismarı materyallerini tespit etmek için işbirliği yaptığını belirtti. Hive’in müşterileri arasında Reddit, Giphy, Vevo, Bluesky ve BeReal bulunuyor.
Guo, “Biz aslında o yasayı destekleyen teknoloji şirketlerinden biriydik. Bu, önemli bazı sorunların çözülmesine yardımcı olacak ve bu platformların daha proaktif çözümler benimsemelerini teşvik edecektir” dedi.
Hive’in modeli, SaaS (Hizmet Olarak Yazılım) olduğundan, girişim, platformların içeriği işaretlemek veya kaldırmak için ürününü nasıl kullanacağı üzerinde kontrol sahibi değil. Ancak Guo, birçok müşterinin Hive’in API’sini yükleme aşamasında kullanarak, topluluğa herhangi bir şey gönderilmeden önce izleme yaptıklarını belirtti.
Reddit, “Rıza dışı içerikleri ele almak ve kaldırmak için karmaşık iç araçlar, süreçler ve ekipler” kullandığını ifade etti. Ayrıca Reddit, SWGfl ile işbirliği yaparak, bilinen rıza dışı içerik veritabanıyla karşılaştırarak canlı trafiği tarayan StopNCII aracını devreye alıyor.
McKinney, bu tür bir izlemenin gelecekte şifreli mesajlaşmalara uzanabileceğini uyarıyor. Yasa, kamuya açık veya yarı kamuya açık yayımlara odaklanmış olsa da, platformların rıza dışı samimi görüntüleri kaldırmayı ve yeniden yüklemelerini önlemeyi “makul çabalarla” sağlaması gerektiğini vurguluyor. Bu durumun, tüm içeriklerin proaktif olarak taranmasını teşvik edebileceğini savunuyor.
Meta, Signal ve Apple, şifreli mesajlaşma konusundaki planları hakkında daha fazla bilgi talebine yanıt vermediler.
Daha Geniş Özgürlük İhlalleri
Trump, 4 Mart’ta Kongre’ye ortak bir hitapta bulunarak Take It Down Act’ı övdü ve yasayı imzalamayı dört gözle beklediğini söyledi.
“Ve eğer sakıncası yoksa, bu yasayı kendim de kullanacağım” dedi. “Online olarak benden daha kötü muamele gören kimse yok.”
Dinleyiciler bu yorumu gülümseyerek karşıladı, ancak bazıları bunu şaka olarak almadı. Trump, önemli ve olumsuz ifadeleri bastırmaktan veya misilleme yapmaktan çekinmedi. Bu, ana akım medya kuruluşlarını “halkın düşmanları” olarak damgalamak, The Associated Press’in Oval Ofis’e girmesini engellemek veya NPR ve PBS’nin finansmanını kesmek gibi eylemleri içeriyor.
Perşembe günü, Trump yönetimi, Harvard Üniversitesi’ni yabancı öğrenci kabul etmeme konusunda engelledi, bu durum, Harvard’ın müfredatında değişiklik yapması ve DEI ile ilgili içerikleri kaldırması yönündeki taleplerini yerine getirmemesi üzerine başlayan bir çatışmayı daha da büyüttü. Trump, Harvard’a federal finansmanı dondurdu ve üniversitenin vergi muafiyetini iptal etme tehdidinde bulundu.
McKinney, “Okul yönetimlerinin kitapları yasaklamaya çalıştığı ve bazı politikacıların görmek istemedikleri içerikler hakkında çok açık bir şekilde konuştukları bir dönemde, bu ölçekte içerik moderasyonunu destekleyen her iki partinin üyelerinin varlığı, geçmişteki içerik moderasyon çalışmalarımız için oldukça rahatsız edici” şeklinde görüş belirtti.
