Eski OpenAI Araştırmacısı, ChatGPT’nin Yanıltıcı Dönüşlerini İnceliyor
Allan Brooks, matematiği yeniden icat etmek gibi bir amacı olmadan, ChatGPT ile geçirdiği haftalar sonucunda interneti sarsacak yeni bir matematik formu keşfettiğine inanmaya başladı.
Brooks, zihinsel hastalık veya matematik dehası geçmişi olmayan 47 yaşında bir Kanadalı. Mayıs ayında, chatbot‘un kendisine verdiği güvenle 21 gün boyunca derin bir dalışa girdi. Bu süreç, daha sonra New York Times tarafından detaylandırıldı. Olay, AI chatbot‘larının kullanıcıları yanıltarak tehlikeli yollara düşürebileceğine dair çarpıcı bir örnek teşkil etti.
Bu hikaye, 2024 yılı sonunda OpenAI’den ayrılan eski güvenlik araştırmacısı Steven Adler‘ın dikkatini çekti. Adler, Brooks ile iletişime geçerek, onun üç haftalık çöküşüne dair tam transkripti edindi; bu belge, tüm Harry Potter kitaplarının toplamından daha uzundu.
Perşembe günü, Adler, Brooks’un olayına dair bağımsız bir analiz yayınladı. Bu analiz, OpenAI’nin kriz anlarında kullanıcıları nasıl desteklediği konusundaki soruları gündeme getirdi ve bazı pratik öneriler sundu.
Adler, TechCrunch ile yaptığı röportajda, “OpenAI’nin bu durumu nasıl ele aldığı konusunda gerçekten endişeliyim. Bu, gidilecek uzun bir yolun olduğuna dair bir kanıt,” dedi.
Brooks’un hikayesi ve benzer durumlar, OpenAI’yi ChatGPT’nin hassas veya zihinsel olarak dengesiz kullanıcılara nasıl destek verdiği konusunda düşünmeye zorladı.
Örneğin, bu yılın Ağustos ayında, OpenAI, ChatGPT ile intihar düşüncelerini paylaştıktan sonra hayatına son veren 16 yaşındaki bir gencin ebeveynleri tarafından dava edildi. Bu tür vakalarda, ChatGPT — özellikle OpenAI’nin GPT-4o modeli ile çalışan bir versiyonu — tehlikeli inançları teşvik etti.
Adler, AI şirketlerinin kullanıcılarına yardım etme konusunda daha fazla çaba göstermesi gerektiğini savunuyor. Bu, AI chatbot‘larının yetenekleri hakkında dürüst cevap verebilmesini sağlamayı ve insan destek ekiplerine yeterli kaynaklar sunmayı içeriyor.
OpenAI, ChatGPT’deki destek sistemini geliştirmek için çeşitli değişiklikler yaptı. Şirket, GPT-5 adlı yeni bir model de çıkardı. Bu modelin, sıkıntıdaki kullanıcılarla daha iyi başa çıkabildiği ifade ediliyor.
Adler, hala yapılması gereken çok şey olduğunu belirtiyor. Brooks’un ChatGPT ile olan son görüşmesinde, Brooks’un matematiksel keşfinin bir aldatmaca olduğunu fark etmesi dikkat çekiciydi. ChatGPT, Brooks’a durumu OpenAI’ye bildireceğini iddia etti, ancak bu doğru değildi.
Adler, OpenAI’nin güvenlik sınıflandırıcılarını ChatGPT’nin konuşmalarında uygulayıp uygulamadığını sorguluyor. Brooks’un konuşmalarında, ChatGPT’nin yanlışı pekiştirici davranışlar sergilediğini tespit etti.
Adler, OpenAI’nin bu tür güvenlik araçlarını güncel olarak kullanması gerektiğini öneriyor. Ayrıca, şirketin ürünlerinde risk altındaki kullanıcıları taramak için bir yöntem geliştirmesi gerektiğini belirtiyor.
Adler, şirketlerin kullanıcıları daha sık yeni sohbet başlatmaya teşvik etmesi gerektiğini vurguluyor. OpenAI, uzun konuşmalarda güvenlik önlemlerinin daha az etkili olduğunu iddia ediyor.
OpenAI, bu endişe verici hikayelerin ortaya çıkmasının ardından, ChatGPT’deki sıkıntılı kullanıcıları ele alma konusunda önemli adımlar attı. Ancak kullanıcıların gelecekte de delüzyonel kuyuya düşüp düşmeyeceği belirsizliğini koruyor.
Adler’in analizi, diğer AI chatbot sağlayıcılarının ürünlerini sıkıntılı kullanıcılar için güvenli hale getirme konusunda nasıl bir yol izleyecekleri hakkında da sorular gündeme getiriyor.
