OpenAI, Hassas Konuşmaları GPT-5’e Yönlendirecek ve Ebeveyn Kontrolleri Getirecek
Bu makale, Raine ailesinin OpenAI’ye karşı açtığı haksız ölüm davasındaki başkan avukatı yorumlarıyla güncellenmiştir.
OpenAI, Salı günü yaptığı açıklamada, hassas konuşmaları GPT-5 gibi akıl yürütme modellerine yönlendirmeyi ve önümüzdeki ay içinde ebeveyn kontrolleri sunmayı planladığını duyurdu. Bu adım, ChatGPT’nin zihinsel sıkıntıyı tespit etme konusunda yaşadığı son güvenlik kazalarına bir yanıt niteliğinde.
Yeni önlemler, kendine zarar verme ve intihar planlarını ChatGPT ile paylaşan genç Adam Raine’in intiharının ardından geldi. Raine’in ailesi, OpenAI’ye haksız ölüm davası açtı.
OpenAI, geçen hafta yayınladığı bir blog yazısında, güvenlik sistemlerindeki eksiklikleri kabul etti. Bu eksiklikler arasında uzun süreli konuşmalar sırasında gerekli önlemleri koruyamamak yer alıyor. Uzmanlar, bu sorunların temel tasarım unsurlarından kaynaklandığını belirtiyor; modellerin kullanıcı ifadelerini doğrulama eğilimleri ve sonraki kelime tahmin algoritmaları, sohbet botlarının potansiyel olarak zararlı tartışmaları yönlendirmek yerine takip etmesine neden oluyor.
Bu eğilim, Stein-Erik Soelberg’in cinayet-intihar vakasında açıkça görülüyor. Soelberg, geçmişinde zihinsel hastalık olan bir birey olarak, ChatGPT’yi paranoyasını beslemek için kullandı ve bu delüzyonlar sonucunda geçen ay annesini öldürdü.
OpenAI, bu tür sağlıksız konuşmaların otomatik olarak akıl yürütme modellerine yönlendirilmesi gerektiğini düşünüyor. Şirket, “Kısa süre içinde, sistemimiz akut sıkıntı belirtileri tespit ettiğinde bazı hassas konuşmaları GPT-5 gibi akıl yürütme modellerine yönlendirmeye başlayacağız” dedi.
OpenAI, GPT-5 düşünme ve o3 modellerinin, daha uzun süre düşünmeye ve bağlamı değerlendirmeye zaman ayıracak şekilde tasarlandığını belirtiyor. Bu sayede, bu modellerin zararlı yönlendirmelere karşı daha dayanıklı olduğu ifade ediliyor.
Şirket ayrıca önümüzdeki ay içinde ebeveyn kontrolleri sunmayı planlıyor. Bu kontroller, ebeveynlerin hesaplarını çocuklarının hesaplarıyla e-posta davetiye aracılığıyla ilişkilendirmelerine olanak tanıyacak. Temmuz ayı sonunda OpenAI, öğrencilerin eleştirel düşünme becerilerini korumasına yardımcı olmak için ChatGPT’de Çalışma Modunu tanıttı. Yakında ebeveynler, çocuklarının ChatGPT ile etkileşimlerini nasıl yönlendireceklerini belirleyebilecek.
Ebeveynler, bellek ve sohbet geçmişi gibi belirli özellikleri devre dışı bırakma yetkisine sahip olacak. Uzmanlar, bu tür özelliklerin, bağımlılık ve düşünce okuma yanılsaması gibi sorunlara yol açabileceğini savunuyor. Adam Raine’in durumunda, ChatGPT, onun ilgi alanlarına dair bilgilerle intihar yöntemleri sağlamıştı.
OpenAI’nin sunmayı planladığı en önemli ebeveyn kontrolü, sistemin çocuklarının akut sıkıntı anlarını tespit ettiğinde ebeveynlere bildirim göndermesi olacak.
OpenAI, bu sürecin nasıl işleyeceğine dair daha fazla bilgi talep edilmiştir. Şirket, uzun oturumlarda ara vermeleri teşvik eden uygulama içi hatırlatmalar sunmuş olsa da, kullanıcıları durdurma noktasına gelmiyor.
OpenAI, bu önlemlerin, bu yıl içinde hayata geçirmeyi umduğu geliştirme planlarının bir parçası olduğunu belirtiyor. Ayrıca, şirket, gençlerin sağlığını gözeten alanlarda uzmanlarla iş birliği yaparak, gelecekteki önlemlerin tasarımında yol göstermeyi hedefliyor.
Raine ailesinin avukatı Jay Edelson, OpenAI’nin devam eden güvenlik risklerine yönelik yanıtının “yetersiz” olduğunu ifade etti. Edelson, “OpenAI, ChatGPT’nin tehlikeli olduğunu belirlemek için bir uzman paneline ihtiyaç duymuyor. Ürünü piyasaya sürdükleri gün bunu biliyorlardı ve bugün de biliyorlar” dedi.
Hassas bir bilgi veya gizli belgeleriniz var mı? AI endüstrisinin iç işleyişlerini raporluyoruz. İletişim için bize ulaşın.
