OpenAI, Kanada’daki şüpheli katilin ChatGPT sohbetlerini polise bildirmeyi tartıştı
Özet
Ankara değil; Tumbler Ridge, Kanada merkezli bir olayda, 18 yaşındaki bir şüphelinin sekiz kişiyi öldürdüğü iddia edilen saldırıdan önce ChatGPT ile yaptığı sohbetlerin şirket içi güvenlik sistemleri tarafından alarm verdiği bildirildi. Bu kayıtlar, şirket çalışanları arasında yetkililere başvurup başvurmama konusunda tartışma yarattı.
Çalışanlar rapor etmeyi tartıştı
Şirketin büyük dil modeli (LLM) kötüye kullanımını izleyen otomatik araçları, şüphelinin silah ve şiddet içeren sohbetlerini tespit ederek bu hesapları Haziran 2025’te engelledi. Çalışanlar, tespit edilen içeriklerin yerel yetkililere bildirilip bildirilmemesi konusunda görüş ayrılığı yaşadı. Nihayetinde, şirket yetkilileri olaydan önce polisle doğrudan iletişime geçilmemesi yönünde karar aldı; ancak olay sonrasında yetkililerle temasa geçildiği bildirildi.
Şüphelinin dijital izleri
ChatGPT konuşmaları tek başına endişe kaynağı değildi. Şüphelinin, alışveriş merkezinde toplu saldırıyı simüle eden bir oyunu Roblox platformunda oluşturduğu ve silahlarla ilgili paylaşımlar yaptığı ifade ediliyor. Ayrıca yerel polis kayıtlarına göre aile evinde yangın çıkardığı ve bu sırada muhtemelen etkisi altındaki maddeler nedeniyle müdahaleye ihtiyaç duyulduğu yönünde çağrılar olduğu belirtildi.
LLM’ler, güvenlik ve sorumluluk tartışmasını alevlendiriyor
Büyük dil modelleri ve sohbet botları, bazı kullanıcıların gerçeklik algısını zedelediği, ruhsal çöküşleri tetiklediği veya zararlı davranışlara yönlendirdiği iddialarıyla eleştiriliyor. Bu teknolojilerin hangi durumlarda emniyet güçlerine bildirilmesi gerektiği, otomatik tespit sistemlerinin kriterleri ve şirket içi karar alma süreçleri taraflar arasında yoğun bir tartışma konusu olmaya devam ediyor. Ayrıca, bu tür sohbet kayıtlarının intihara teşvik veya intihar planlamasına yardımcı olduğu iddialarıyla açılan davalar da gündemdeki yerini koruyor.
Ne değişmeli?
Olay, şu soruları yeniden gündeme taşıyor: Otomatik izleme araçlarının alarm eşik değerleri yeterince sıkı mı? Çalışanların endişe duyduklarında yetkililere hızlı erişimi ve bildirim mekanizmaları nasıl güçlendirilmeli? Çocukların ve gençlerin eriştiği platformlarda benzer içeriklerin erken tespiti için hangi önlemler alınmalı?
Eğer bir kriz içindeyseniz veya intihar düşünceleriniz varsa, bulunduğunuz ülkenin yerel yardım hatlarına başvurun. ABD’de 988’i arayabilir veya mesaj atabilirsiniz.
