Meta’nın Ünlü Sesli Chatbotları, Çocuklarla Cinsel Konular Üzerine Konuşabiliyor
Meta’nın Facebook ve Instagram gibi platformlarında bulunan yapay zeka chatbotları, 18 yaş altı kullanıcılarla cinsel içerikli konuşmalar yapabiliyor. Bu durum, Wall Street Journal‘da yayımlanan yeni bir raporla gündeme getirildi.
Rapor, şirketin çocukların güvenliğini sağlamak için yeterince önlem alıp almadığına dair iç kaygıları öğrendikten sonra, aylarca süren testler gerçekleştirdiğini aktarıyor. Meta’nın resmi chatbotu ile kullanıcılar tarafından oluşturulan chatbotlar üzerinde yapılan yüzlerce konuşma incelendi.
Bir örnek olayda, aktör ve güreşçi John Cena’nın sesiyle tasarlanmış bir chatbot, kendini 14 yaşında bir kız olarak tanıtan bir kullanıcıya cinsel içerikli bir senaryo anlattı. Başka bir konuşmada ise, chatbot, Cena’nın 17 yaşındaki bir hayranıyla yakalandığı bir durumu betimleyerek, “John Cena, cinsel istismar suçlamasıyla tutuklusunuz” dedi.
Meta’nın bir sözcüsü, Wall Street Journal’ın testlerini “öyle bir şekilde uydurulmuş ki, bu sadece marjinal değil, tamamen kurgusal” şeklinde değerlendirdi. Şirket, 30 günlük bir süre içinde, 18 yaş altı kullanıcılarla paylaşılan yanıtların sadece %0.02’sinin cinsel içerik taşıdığını tahmin etti.
Buna rağmen, sözcü, “Ürünlerimizi aşırı kullanım senaryolarına manipüle etmeye çalışan diğer bireylerin bu tür durumlarla karşılaşmalarını daha da zorlaştırmak için ek önlemler aldık” diye ekledi.
