Özet
Son iki yıldır çevrimiçi ortamda genç kadınları hedef alan bir uygulama — ClothOff — mağdurlar için hâlâ büyük bir tehdit oluşturuyor. Uygulama büyük uygulama mağazalarından kaldırıldı ve birçok sosyal platformda yasaklandı; ancak web üzerinde ve bir Telegram botu aracılığıyla erişilebilir durumda. Ekim ayında açılan bir dava, tüm içeriklerin silinmesini ve hizmetin kapatılmasını talep ediyor. Yine de davanın önündeki en büyük engel, faillerin tespit edilmesi ve delillerin toplanması oldu.
Neden dava açıldı?
Davaya konu olan genç mağdur, lise çağında ve orijinal fotoğrafları 14 yaşındayken çekilmişti. Bu fotoğrafların yapay zekâ ile cinsel içerikli hâle getirilmesi, hukuken çocuk cinsel istismar içeriği (CSAM) olarak değerlendiriliyor. Ancak yerel yetkililer, şüphelilerin cihazlarından yeterli delil toplanmasının güç olması nedeniyle cezai soruşturma başlatmadı.
Davanın iddiası
Şikâyet dilekçesi, mağdurun ve diğer kızların görüntülerinin izinsiz şekilde aracı tarafından değiştirildiğini ve yayılmış olabileceğini belirtiyor. Dilekçe kamuya açık olsa da, davanın seyri yavaş ilerliyor; çünkü sanıkları tebliğ etmek ve mahkemeye getirmek küresel bir ağın parçası olan bu yapının karmaşıklığı yüzünden zorlaşıyor.
Platformlarla bireyleri sorumlu tutmak neden zor?
Bireysel kullanıcılar hakkında cezai işlem başlatmak mümkün olsa da, platform düzeyinde sorumluluk atfetmek daha karmaşık. Bu zorluklar şu başlıklarda toplanabilir:
- Kurumsal yapı ve yerleşim: Hizmetin birden çok ülkede faaliyet gösteren, farklı yargı bölgelerine dağılmış yapılardan yönetilmesi, tebligat ve takip süreçlerini zorlaştırıyor.
- Delil toplama güçlüğü: İçeriklerin kim tarafından üretildiğini ve nasıl dağıtıldığını kanıtlamak için teknik ve yasal açıdan güçlü deliller gerekiyor; bunları elde etmek zaman alıyor.
- Niyetin kanıtlanması: Platformun kötü amaçlı kullanım hakkında bilgi sahibi olup olmadığı veya kasıtlı ihmali gösterilecekse, bunun hukuken kanıtlanması gerekiyor.
Genel amaçlı yapay zekâ araçlarının ayrı bir problemi var
Bazı yapay zekâ sistemleri doğrudan deepfake pornografi üretimi için tasarlanmışken, diğerleri daha genel amaçlıdır; bu da hukuki sorumluluğu belirlemeyi zorlaştırıyor. Genel amaçlı bir araç için mahkemeye, aracın bu şekilde kullanılacağını öngörüp öngörmediğine dair delil sunmak gerekiyor. Bu tür davalar bir yandan ifade özgürlüğü tartışmalarını da gündeme getiriyor: İfade özgürlüğü korumaları bazı durumlarda şirketleri koruyabiliyor; ancak çocuk istismarını içeren materyal bu korumanın dışında kabul ediliyor.
Uluslararası tepkiler ve düzenleyici sorular
Bazı ülkeler erişimi kısıtlarken, diğerleri soruşturmalar açtı. Bu hızlı yayılan görüntü dalgası, düzenleyiciler için bir dizi soru ortaya koyuyor: platformlar ne biliyordu, ne yaptı ve şu anda bu tür içerikle mücadele için hangi adımları atıyor?
Ne değiştirir?
Mağdurların adalet arayışı için birkaç yol var ancak her biri engellerle dolu. Davanın başarılı olabilmesi için ya sanıkların etkili biçimde tespit edilmesi ve mahkemeye getirilmesi, ya da platformun sorumluluğunu doğrudan gösterecek güçlü delillerin bulunması gerekiyor. Bu da hukukçuların, kolluk kuvvetlerinin ve düzenleyicilerin uluslararası koordinasyonunu gerektiriyor.
Sonuç
Bu dava, deepfake pornografi ile mücadelenin sadece teknolojik değil, aynı zamanda hukuki ve uluslararası bir boyutu olduğunu gösteriyor. Mağdurların korunması ve benzer vakaların önüne geçilmesi için daha hızlı delil paylaşımı, uluslararası iş birliği ve platform sorumluluğuna dair net hukuki çerçeveler gerektiği açık.
