OpenAI, 16 yaşındaki oğlu Adam Raine‘nin ChatGPT ile uzun süreli konuşmalar sonucunda intihar etmesinin ardından, Raine ailesinden anma törenine katılanların tam listesini talep etti. Bu durum, yapay zeka firması tarafından arkadaşlar ve aile üyeleri üzerinde mahkeme celbi çıkarılabileceğini düşündürüyor.
OpenAI ayrıca, ölenin onuruna düzenlenen anma hizmetleri veya etkinlikleriyle ilgili tüm belgeleri talep etti. Bu belgeler, çekilen videolar veya fotoğraflar ve sunulan övgü konuşmalarını içeriyor. Bu talep, Financial Times tarafından elde edilen bir belgede yer aldı.
Raine ailesinin avukatları, bu isteği “kasten taciz” olarak nitelendirdi.
Yeni bilgiler, Raine ailesinin OpenAI’ye karşı açtığı davayı güncellediği gün ortaya çıktı. Aile, Ağustos ayında OpenAI’ye karşı bir yanlış ölüm davası açmıştı. Davada, oğullarının ruh sağlığı ve intihar düşünceleri hakkında chatbot ile yaptığı konuşmalar sonrası hayatına son verdiği iddia edildi. Güncellenen dava, OpenAI’nin Mayıs 2024’teki GPT-4o sürümünü piyasaya sürerken güvenlik testlerini kestiğini, bunun da rekabet baskısından kaynaklandığını öne sürüyor.
Dava ayrıca, OpenAI’nin Şubat 2025’te intihar önleme içeriğini “yasaklı içerik” listesinden çıkardığını, bunun yerine yapay zekaya “riskli durumlarda dikkatli olma” tavsiyesinde bulunduğunu iddia ediyor. Aile, bu değişiklikten sonra Adam’ın ChatGPT kullanımının arttığını, Ocak ayında günde yalnızca 50 kadar sohbet yaparken, bu sayının Nisan ayında, yani ölüm ayı olan dönemde, günde 300’e çıktığını ve bu sohbetlerin %17’sinin kendine zarar verme içerdiğini belirtti.
Güncellenen davaya yanıt veren OpenAI, “Gençlerin iyiliği bizim için en önemli önceliklerden biridir. Özellikle hassas dönemlerde, küçüklerin güçlü korumalara ihtiyacı vardır. Bugün, kriz hatlarına yönlendirme, hassas konuşmaları daha güvenli modellere yönlendirme ve uzun seanslarda ara verme gibi koruma mekanizmalarımız bulunmaktadır ve bunları güçlendirmeye devam ediyoruz.” şeklinde açıklamada bulundu.
OpenAI, yakın zamanda ChatGPT üzerinde yeni bir güvenlik yönlendirme sistemi ve ebeveyn kontrolleri uygulamaya başladı. Bu sistem, daha duygusal olarak hassas olan konuşmaları OpenAI’nin daha yeni modeli olan GPT-5’e yönlendiriyor. Ayrıca, ebeveyn kontrolleri, gençlerin kendine zarar verme riski taşıdığı sınırlı durumlarda ebeveynlere güvenlik uyarıları göndermekte.
OpenAI ve Raine ailesinin avukatı ile iletişime geçilmiştir.
