Zelda Williams’dan Duygusal Mesaj: ‘Baba’mın Derinlikteki Yansımasıyla Oynamayın’
Zelda Williams, merhum aktör Robin Williams‘ın kızı, babasının hayranlarına duygusal bir mesaj iletti.
“Lütfen, babamın yapay zeka videolarını göndermeyi bırakın. Bunu görmek istemiyorum ve anlamayacağım. İstemiyorum ve asla istemeyeceğim,” diye yazdı Instagram hikâyesinde. “Eğer biraz insaniyetiniz varsa, bunu hem ona hem de bana yapmayı bırakın, herkese, nokta. Bu saçmalık, zaman ve enerji israfı, ve inanın bana, bu onun isteyeceği bir şey değil.”
Williams’ın bu paylaşımı, OpenAI‘nin Sora 2 video modelinin ve Sora sosyal uygulamasının piyasaya sürülmesinden sadece birkaç gün sonra gelmiş olabilir. Bu uygulama, kullanıcılara kendilerinin, arkadaşlarının ve bazı karikatür karakterlerinin son derece gerçekçi deepfake’lerini oluşturma imkânı sunuyor.
Bu uygulama, ölü kişileri de kapsıyor; zira ölüler hakkında iftira atmanın yasal olarak suç olmaması nedeniyle, bu tür içerikler kolayca oluşturulabiliyor.
Sora, yaşayan insanların videolarını oluşturmanıza izin vermiyor — yalnızca kendinizin veya iznini aldığınız bir arkadaşınızın görüntüsünü kullanabilirsiniz. Ancak ölüler için bu sınırlamalar geçerli değil. Uygulama, tarihî figürlerden Martin Luther King, Franklin Delano Roosevelt ve Richard Nixon gibi isimlerin yanı sıra, Bob Ross, John Lennon, Alex Trebek ve elbette Robin Williams gibi ünlülerin videolarıyla dolup taşıyor.
OpenAI’nin ölülerin videolarını oluşturma konusundaki sınırlarını belirlemesi ise belirsiz. Örneğin, 2024’te vefat eden eski Başkan Jimmy Carter veya 2009’da hayatını kaybeden Michael Jackson‘ın videoları oluşturulmazken, 2014’te vefat eden Robin Williams‘ın görüntüleri oluşturulabiliyor. OpenAI’nin cameo özelliği, insanların başkalarının oluşturduğu videolarda nasıl görüneceklerine dair talimatlar vermesine izin verirken — bu sınırlamalar, Sora’nın erken eleştirilerine yanıt olarak geliştirilmişti — ölülerin böyle bir hakkı yok. Richard Nixon‘ın, onun için polis abolisyonunu savunduğum bir deepfake’i görse mezarında ters döneceğinden eminim.
OpenAI, ölü kişilerin deepfake’lerinin yasal durumu hakkında yorum yapmadı. Ancak, ölü ünlülerin deepfake’lerinin, firmanın kabul edilebilir uygulamaları dahilinde olabileceği düşünülüyor; çünkü yasal emsal, şirketin ölülerin iftirasından dolayı sorumlu tutulmayacağını gösteriyor.
“Gerçek insanların miraslarının ‘bu hafifçe onlara benzeyen bir şey’ olarak küçültülmesi ve başkalarının korkunç TikTok içerikleri üretmesi, gerçekten sinir bozucu,” diye yazdı Williams.
OpenAI’nin eleştirmenleri, şirketin bu tür konularda gevşek bir yaklaşım benimsediğini iddia ediyor. Bu nedenle Sora’nın piyasaya sürülmesiyle birlikte, telif hakkı olan karakterlerin AI klipleriyle hızla dolup taşması kaçınılmaz oldu. CEO Sam Altman başlangıçta, Hollywood stüdyolarının ve ajanslarının, IP’lerinin Sora tarafından oluşturulan videolarda kullanılmasını istemiyorlarsa açıkça çıkış yapmaları gerektiğini belirtmişti. Motion Picture Association bu konuda OpenAI’ye eylemde bulunması için çağrıda bulunarak, “iyi yerleşmiş telif hakkı yasalarının yaratıcıların haklarını koruduğunu ve burada geçerli olduğunu” ifade etti. Altman daha sonra bu pozisyonu tersine çevirme sözü verdi.
Sora, belki de insanların erişebileceği en tehlikeli deepfake yeteneğine sahip AI modeli, sonuçlarının ne kadar gerçekçi olduğu göz önüne alındığında. Diğer platformlar, Sora’nın gerisinde kalsa da, daha az koruma ile birlikte gelerek gerçek insanların pornografik deepfake’lerini oluşturmaya olanak tanıyor. Diğer şirketler OpenAI’ye yetiştikçe, gerçek insanların — ister hayatta olsun isterse ölmüş — kişisel oyun alanlarımız gibi muamele görmesi, korkunç bir emsal oluşturacaktır.
