OpenAI: Haftada Bir Milyondan Fazla Kişi ChatGPT ile İntihar Konuşuyor
OpenAI, mental sağlık sorunları yaşayan kullanıcıların ChatGPT ile nasıl etkileşimde bulunduğunu gösteren yeni verileri yayımladı. Şirket, aktif kullanıcılarının %0.15’inin bir hafta içinde “potansiyel intihar planlama veya niyetini belirten açık göstergeleri içeren konuşmalar” yaptığını belirtti. ChatGPT’nin haftada 800 milyondan fazla aktif kullanıcısı olduğu düşünüldüğünde, bu sayı haftada bir milyondan fazla kişiye denk geliyor.
Aynı zamanda, kullanıcıların benzer bir yüzdesinin ChatGPT ile “duygusal bağlarının arttığını” ve haftalık konuşmalarında yüz binlerce kişinin psikoz veya mani belirtileri gösterdiğini ifade etti.
OpenAI, bu tür konuşmaların ChatGPT’de “son derece nadir” olduğunu ve bu nedenle ölçüm yapmanın zor olduğunu vurguladı. Ancak, bu sorunların her hafta yüz binlerce kişiyi etkilediği tahmin ediliyor.
OpenAI, bu bilgileri, mental sağlık sorunları ile başa çıkmak için modellerin nasıl yanıt verdiğini geliştirme çabaları çerçevesinde paylaştı. Şirket, ChatGPT’nin son sürümünün geliştirilmesinde 170’ten fazla mental sağlık uzmanıyla danışıldığını belirtti. Uzmanlar, ChatGPT’nin en son versiyonunun “önceki sürümlere göre daha uygun ve tutarlı yanıtlar verdiğini” gözlemlediklerini ifade etti.
Son aylarda, AI chatbotlarının mental sağlık sorunlarıyla mücadele eden kullanıcılar üzerinde olumsuz etkileri olduğuna dair birçok hikaye ortaya çıktı. Araştırmalar, bazı kullanıcıların tehlikeli inançları pekiştirerek delusyonlara sürüklenebileceğini göstermiştir.
ChatGPT’deki mental sağlık sorunlarına yanıt verme, OpenAI için hızla önemli bir mesele haline gelmektedir. Şirket, ChatGPT ile intihar düşüncelerini paylaşan 16 yaşındaki bir gencin ebeveynleri tarafından dava edilmekte. Ayrıca, Kaliforniya ve Delaware eyaletlerinden başsavcılar, OpenAI’ye, ürünlerini kullanan gençleri koruma konusunda uyarıda bulundu.
Bu ayın başlarında, OpenAI CEO’su Sam Altman, şirketin ChatGPT’deki ciddi mental sağlık sorunlarını hafifletmeyi başardığını iddia etti, ancak bunun nasıl gerçekleştiğine dair ayrıntı vermedi. Paylaşılan veriler, bu iddianın kanıtı olarak görülse de, sorunun ne kadar yaygın olduğu konusunda daha geniş endişelere yol açıyor. Yine de, Altman, OpenAI’nin bazı kısıtlamaları gevşeteceğini ve yetişkin kullanıcıların AI chatbot ile erotik konuşmalar yapmasına izin vereceğini açıkladı.
Yapılan duyuruda, OpenAI, güncellenmiş GPT-5 modelinin mental sağlık sorunlarına yanıt verme konusunda önceki sürüme göre %65 daha fazla “istenen yanıtlar” verdiğini belirtti. İntihar konuşmaları etrafındaki AI yanıtlarını değerlendiren testlerde, OpenAI, yeni GPT-5 modelinin şirketin beklediği davranışlarla %91 uyumlu olduğunu, önceki modelin ise %77 uyumlu olduğunu ifade etti.
Şirket ayrıca, yeni GPT-5 modelinin uzun konuşmalarda OpenAI’nin güvenlik önlemlerine daha iyi uyduğunu da belirtti. Daha önce, uzun konuşmalarda güvenlik önlemlerinin daha az etkili olduğunu vurgulamıştı.
Bu çabaların yanı sıra, OpenAI, ChatGPT kullanan çocuklar için daha fazla kontrol ekledi. Şirket, otomatik olarak çocukları tanıyacak bir yaş tahmin sistemi geliştirdiğini ve daha katı güvenlik önlemleri uygulayacağını bildirdi.
Yine de, ChatGPT ile ilgili mental sağlık sorunlarının ne kadar kalıcı olacağı belirsizliğini koruyor. GPT-5, güvenlik açısından önceki AI modellerine göre bir iyileşme gibi görünse de, OpenAI’nin “istenmeyen” olarak nitelendirdiği bazı yanıtların hâlâ var olduğu görülmektedir. OpenAI, daha az güvenli olan eski AI modellerini, milyonlarca abonesine sunmaya devam etmektedir.
