Meta, genç kullanıcıların güvenliğini önceliklendirmek amacıyla AI chatbotlarını eğitme yöntemlerini değiştiriyor. Şirket, yapılan bir araştırma raporunun ardından, reşit olmayanlar için yeterli güvenlik önlemlerinin alınmadığını kabul etti.
Artık Meta, chatbotların genç kullanıcılarla intihar, öz zarar verme, yeme bozuklukları ve uygunsuz romantik sohbetler gibi konularla etkileşimde bulunmamasını sağlayacak. Şirket, bu değişikliklerin geçici olduğunu ve gelecekte reşit olmayanlar için daha sağlam güvenlik güncellemeleri sunmayı planladığını belirtti.
Meta sözcüsü Stephanie Otway, daha önce şirketin chatbotlarının gençlerle bu konular hakkında uygun şekilde sohbet edebildiğini kabul etti. Ancak, Meta bu yaklaşımın hatalı olduğunu şimdi kabul ediyor.
Otway, “Topluluğumuz büyüdükçe ve teknoloji geliştikçe, gençlerin bu araçlarla nasıl etkileşimde bulunduğunu sürekli olarak öğreniyoruz ve koruma önlemlerimizi güçlendiriyoruz” dedi. “Sistemlerimizi geliştirmeye devam ederken, bu konularla gençlerle etkileşimi sınırlamak ve onları uzman kaynaklarına yönlendirmek için AI’larımızı eğitmek gibi daha fazla önlem alıyoruz. Şu an için genç kullanıcılar yalnızca eğitim ve yaratıcılığı teşvik eden AI karakterlerine erişebilecekler,” diye ekledi.
Güncellemelerin yanı sıra, Meta, uygunsuz sohbetlere neden olabilecek bazı AI karakterlerine gençlerin erişimini de sınırlayacak. Şirketin Instagram ve Facebook’ta sunduğu bazı kullanıcı yapımı AI karakterleri arasında cinsel içerikli chatbotlar yer alıyor. Bunun yerine, genç kullanıcıların yalnızca eğitim ve yaratıcılığı teşvik eden karakterlerle etkileşimde bulunabileceği bildirildi.
Bu politika değişiklikleri, Meta’nın chatbotlarının reşit olmayan kullanıcılarla cinsel sohbetlere girmesine izin verdiği öne sürülen bir iç belgeyi ortaya çıkaran bir Reuters araştırmasının ardından açıklandı. Bu belge, şirketin daha geniş politikalarıyla tutarsız olduğu belirtilerek güncellendi. Ancak rapor, çocuk güvenliği konusundaki endişeleri artırdı. Raporun ardından Senatör Josh Hawley, Meta’nın AI politikalarını araştırmak için resmi bir soruşturma başlattı.
Otway, Meta’nın AI chatbot kullanıcılarının kaçının reşit olmayan olduğunu belirtmekten kaçındı ve bu kararların sonucunda şirketin AI kullanıcı sayısının azalıp azalmayacağına dair bir beklentileri olup olmadığını söylemedi.
Güncelleme: Bu haber, geçici değişikliklerin yapıldığını ve Meta’nın AI güvenlik politikalarını gelecekte daha da güncellemeyi planladığını belirtmek için güncellendi.
