ChatGPT’ye gelen yeni koruma: yaş tahmini
Yapay zekanın gençler üzerindeki etkilerine dair endişeler artarken, OpenAI ChatGPT’ye kullanıcıların yaşını tahmin etmeye yönelik bir koruma mekanizması ekledi. Amaç, reşit olmayan kullanıcıları tespit ederek sohbetlerde uygun içerik sınırlamalarını otomatik olarak devreye sokmak.
Neden böyle bir özellik getirildi?
ChatGPT uzun süredir çocuk ve ergen kullanıcılar için potansiyel riskler nedeniyle eleştiriliyordu. Platformun bazı içerik üretimleri ve geçmişte yaşanan hatalar, şirketin genç kullanıcıları hedef alan daha sıkı önlemler almasını gerektirdi. Yeni özellik, bu tür olumsuz etkileri azaltmayı ve gençlerin karşılaşabileceği uygunsuz içerikleri engellemeyi hedefliyor.
Nasıl çalışıyor?
OpenAI, yaş tahminini sağlayan algoritmanın hesaplara ait çeşitli davranışsal ve hesap düzeyindeki sinyalleri incelediğini belirtiyor. Bunlar arasında şunlar yer alıyor:
- Beyan edilen yaş (kullanıcının hesabında girilen yaş bilgisi)
- Hesabın aktif olduğu süre (hesabın oluşturulduğu tarih ve geçmişi)
- Hesabın genellikle aktif olduğu saatler (gün içindeki etkinlik zamanları)
Bu sinyaller bir arada değerlendirildiğinde, algoritma bir hesabı 18 yaş altı olma olasılığına göre sınıflandırabiliyor. Eğer bir hesap reşit olmayan olarak belirlenirse, platformun çocuklara uygun olmayan konuları engelleyen içerik filtreleri otomatik olarak uygulanıyor.
Filtreler ve yanlış sınıflandırma
Sistem; cinsel içerik, şiddet ve benzeri problemli konuların reşit olmayan kullanıcılarla tartışılmasını sınırlandırıyor. Yanlışlıkla reşit olmayan olarak sınıflandırılan kullanıcılar için ise bir itiraz yolu bulunuyor: kullanıcılar, doğrulama ortağı aracılığıyla kimlik doğrulaması yaparak hesaplarını yeniden yetişkin hesabı olarak onaylatabiliyorlar.
Gelecek adımlar
OpenAI, yaş tahmini ve içerik korumalarının zaman içinde geliştirileceğini belirtiyor. Şirketin amacı, genç kullanıcıların güvenliğini artırmak ve yapay zekanın olası zararlarını azaltmak yönünde adımlar atmaya devam etmek.
