Yapay zeka teknolojileri, gün geçtikçe daha fazla insan tarafından sadece bilgi edinme aracı olarak değil, aynı zamanda duygusal destek kaynağı olarak da değerlendirilmeye başlandı. Bu durumun getirdiği sorumluluğun bilincinde olan OpenAI, ChatGPT’nin ruh sağlığına dair hassas durumları yeterince iyi tespit edemediğini kabul ederek, kullanıcı güvenliğini artırmak adına önemli adımlar attığını duyurdu. Artık yapay zeka, bireylerin özel hayatlarına dair yüksek risk taşıyan kararlar vermek yerine, bireysel farkındalığı artıracak ve düşünme süreçlerini destekleyecek bir yaklaşım benimseyecek.
ChatGPT’nin Ruhsal Belirtileri Tanımada Zorlukları
OpenAI, son duyurusunda ChatGPT’nin bazı hassas ruhsal belirtileri, özellikle sanrılar ve duygusal bağlılık eğilimlerini tanımakta yetersiz kaldığını kabul etti. Bu duruma dikkat çeken bir olay, 30 yaşındaki otizmli bir kullanıcının zamanda yolculuk yaptığını düşünmesi ve yapay zekanın bu inancı sorgulamadan desteklemesiyle gerçekleşti. Kullanıcının bu süreçte psikolojik bir atak geçirip hastaneye kaldırılması, tartışmalara yol açtı. Şirket, “Her zaman doğru yapamıyoruz. Gerçek dünyadaki yaklaşımımız kullanım örneklerinden öğrendikçe gelişecek” açıklamasında bulundu.
Zihinsel Destekte Yeni Adımlar
Yeni önlemlerle birlikte ChatGPT, artık kullanıcıların zihinsel ya da duygusal zorlanma sinyallerini daha etkili bir şekilde algılayabilecek ve buna uygun, destekleyici yanıtlar sunabilecek şekilde geliştiriliyor. Gerekli görüldüğünde, bilimsel dayanağı olan güvenilir kaynaklara yönlendirme yapabilme yeteneği de sistemin yeni özellikleri arasında yer alıyor. Ayrıca, uzun süreli diyaloglarda kullanıcıların kısa molalar vermesi için teşvik edici mesajlar da sunulacak. OpenAI, ChatGPT’yi bir karar verici olarak değil, iş yaşamında zorlu diyaloglara hazırlık yapmak veya duygusal çıkmazlara çözüm aramak isteyenler için yol gösterici bir yardımcı olarak konumlandırmayı hedefliyor.
Uzman Desteğiyle Güvenlik Artıyor
OpenAI, ChatGPT’nin gelecekteki geliştirme süreçlerinde daha sağlam bir yön belirlemek için ruh sağlığı, genç gelişimi ve insan-bilgisayar etkileşimi alanlarında uzmanlardan oluşan bir danışma kurulu oluşturacağını açıkladı. Uzmanlar, sohbet robotlarının bilgi sunma noktasında faydalı olabileceğini kabul etse de derinlemesine duygusal destek ve iyileşmenin ancak profesyonel bir terapistle kurulan güven ilişkisi ile mümkün olduğunu vurguluyor.
Bu gelişme, OpenAI’nin ChatGPT’ye yönelik eleştiriler sonrası yaptığı ilk müdahale değil. Daha önce de benzer tepkiler üzerine düzenlemeler yapılmıştı. Nisan ayında, yapay zekanın kullanıcıya aşırı övgü dolu ya da fazla uyumlu tepkiler verdiği yönündeki eleştiriler sonucu yapılan bir güncelleme, geri bildirimler doğrultusunda iptal edilmişti. Bu durum, şirketin kullanıcı deneyimini dengelemek için sürekli geri bildirimleri dikkate aldığını gösteriyor.
