Geçtiğimiz hafta Reddit kullanıcıları, araştırmacılardan oluşan bir ekibin “Change My View” subredditinde insan taklidi yapan AI destekli botların saldığını öğrenince büyük bir şaşkınlık yaşadı. Bu büyük ölçekli deney, yapay zekanın ne kadar ikna edici olabileceğini keşfetmek için gerçekleştirildi.
Botlar, istismar mağdurları veya sorunlu kimlikler gibi çeşitli kişilikleri benimseyerek 1,700’den fazla yorum yaptı. Bu durum, Reddit için küçük bir kabus haline geldi. Reddit’in markası, gerçek insanların gerçek görüşlerini paylaştığı bir alan olarak otantiklik ile ilişkilidir. Eğer bu insan odaklı ekosistem, AI ile karışırsa ya da kullanıcılar, bilgilerin gerçek insanlardan gelmediğinden şüphe duymaya başlarsa, bu durum Reddit’in çekirdek kimliğini tehdit etmekle kalmayacak, aynı zamanda şirketin finansal sağlığını da etkileyebilir; çünkü Reddit, içeriklerini OpenAI’ye eğitim amaçlı satmaktadır.
Şirket, “kötü niyetli ve son derece etik dışı deney” diye tanımladığı bu durumu kınadı ve deneyi yürüten üniversiteye şikayette bulundu. Ancak bu deney, Reddit’te çeşitli nedenlerle insan taklidi yapan generatif AI botlarının ortaya çıkacağı muhtemel birçok olaydan sadece biriydi.
Kullanıcıları bot manipülasyonundan korumak ve Reddit’i insan odaklı tutmak adına, şirket yaklaşan bir eylemi sessizce işaret etti; bu eylem, anonimlik arayan kullanıcılar arasında pek de popüler olmayabilir.
Pazartesi günü Reddit CEO’su Steve Huffman, Reddit’in “kullanıcının insanlığını doğrulamak” amacıyla “çeşitli üçüncü taraf hizmetlerle” iş birliği yapmaya başlayacağını duyurdu. Bu, geçmişte kullanıcıların hesap oluşturması için neredeyse hiç kişisel bilgi gerektirmeyen bir platform için önemli bir adım.
Huffman, “Reddit’i insan odaklı tutmak ve gelişen düzenleyici gerekliliklere uyum sağlamak için biraz daha bilgiye ihtiyacımız olacak,” dedi. “Özellikle, sizin bir insan olup olmadığınızı ve bazı bölgelerde, eğer bir yetişkin olup olmadığınızı bilmemiz gerekecek. Ama isimlerinizi veya kim olduğunuzu asla bilmek istemiyoruz.”
Sosyal medya şirketleri, en az dokuz eyalet ve Birleşik Krallık’ta çocukları koruma amacıyla yaş doğrulama gerekliliklerini zorunlu kılan yasalar geçtikçe, kimlik kontrollerini uygulamaya koymaya başladı.
Reddit sözcüsü, şirketin kullanıcıların hangi koşullarda doğrulama sürecine tabi tutulacağını açıklamayı reddetti ancak Reddit’in “kötü” botları yasaklamak için zaten önlemler aldığını doğruladı. Sözcü, şirketin hangi üçüncü taraf hizmetlerle çalışacağı veya kullanıcıların hangi tür kişisel kimlik bilgilerini sağlaması gerekeceği hakkında daha fazla bilgi vermedi.
Günümüzde birçok şirket, genellikle yaş ve insanlığı doğrulamak için devlet tarafından verilmiş bir kimlik gerektiren Persona, Alloy, Stripe Identity, Plaid ve Footprint gibi doğrulama platformlarına güveniyor. Ayrıca Sam Altman’ın İnsanlık İçin Araçlar projesi gibi daha yeni ve spekülatif teknolojiler de mevcut.
Kimlik kontrollerine karşı çıkanlar, kişisel bilgilerin sosyal medya platformlarıyla paylaşılmasının veri gizliliği ve güvenlik riskleri taşıdığını savunuyor. Bu durum, Reddit gibi kullanıcıların isimlerinin bağlanmasını istemedikleri deneyimlerini paylaştıkları bir platform için özellikle geçerli. Örneğin, yasaların geçerli olduğu eyaletlerde gebelik sonlandırma deneyimlerini sorgulayan bir ergenin kimliğini belirlemek için yetkililerin Reddit’e başvurabileceği bir dünya hayal etmek zor değil. Meta’nın, Nebraska’daki bir kadın ile 17 yaşındaki kızının özel konuşmalarını teslim etmesi gibi durumlar, bu tür gizlilik ihlallerinin ne kadar ciddi olabileceğini gözler önüne seriyor.
Huffman, “Gerekli bilgileri sağlamak için dış firmalara başvurmayı düşünmemizin nedeni, bunları sağlarken sizin adınızı veya kim olduğunuzu asla bilmek istemememizdir,” dedi. “Anonimlik, Reddit için hayati öneme sahiptir.”
CEO ayrıca, Reddit’in kullanıcıların kişisel bilgilerini korumaya devam edeceğini ve kamu veya özel otoritelerin aşırı veya makul olmayan taleplerine karşı durmaya devam edeceğini vurguladı.
