ChatGPT kullanıcılarının, yapay zeka uygulamalarını terapi ya da duygusal destek için kullanmadan önce bir kez daha düşünmeleri gerekebilir. OpenAI CEO’su Sam Altman’a göre, yapay zeka endüstrisi henüz bu tür hassas konuşmaların gizliliğini korumak için bir yol bulabilmiş değil, çünkü bir AI ile yapılan konuşmalarda doktor-hasta gizliliği mevcut değil.
Altman, bu açıklamaları Theo Von’un podcast’inde yaptı.
Yapay zekanın mevcut hukuki sistemle etkileşimi hakkında bir soruya yanıt veren Altman, yasal ya da politik bir çerçevenin henüz olmaması nedeniyle kullanıcıların konuşmalarının hukuki gizliliğinin bulunmadığını belirtti.
Altman, “İnsanlar hayatlarındaki en özel konuları ChatGPT’ye anlatıyorlar,” dedi. “Gençler özellikle bunu bir terapist ya da yaşam koçu olarak kullanıyor; ilişki sorunları yaşıyorlar ve ‘ne yapmalıyım?’ diye soruyorlar. Şu anda, bu sorunlarla ilgili bir terapist, avukat ya da doktorla konuştuğunuzda yasal bir ayrıcalık var. Doktor-hasta gizliliği, hukuki gizlilik var. Ama ChatGPT ile konuştuğunuzda bunu henüz çözemedik,” şeklinde konuştu.
Bu durum, bir mahkeme davası söz konusu olduğunda kullanıcılar için gizlilik endişesi yaratabilir. Altman, OpenAI’nin günümüzde bu konuşmaları sağlamakla yasal olarak yükümlü olacağını ekledi.
Altman, “Bu durum gerçekten sorunlu. Yapay zeka ile olan konuşmalarınız için gizlilik konusunu bir terapist ile olan gizlilikle aynı şekilde değerlendirmemiz gerektiğini düşünüyorum. Bu konuda bir yıl önce kimsenin düşünmesi gerekmiyordu,” dedi.
Şirket, gizlilik eksikliğinin daha geniş bir kullanıcı kabulü için bir engel olabileceğini anlıyor. Eğitim sürecinde yapay zekanın çok fazla çevrimiçi veriye ihtiyaç duyması yanı sıra, bazı hukuki bağlamlarda kullanıcıların sohbetlerinden veri üretmesi isteniyor. OpenAI, New York Times ile olan davasında, yüz milyonlarca ChatGPT kullanıcısının sohbetlerini kaydetmesini gerektiren bir mahkeme kararına karşı mücadele ediyor.
OpenAI, web sitesinde bu karara itiraz ettiğini ve bunun “aşırı bir yetki aşımı” olduğunu belirtti. Eğer mahkeme, OpenAI’nin veri gizliliği konusundaki kendi kararlarını geçersiz kılabilirse, şirket daha fazla hukuki keşif ya da kolluk kuvvetleri talepleriyle karşılaşma riskiyle karşı karşıya kalabilir. Günümüzde teknoloji şirketleri, kullanıcı verilerini suç davalarına yardımcı olmak amacıyla düzenli olarak mahkeme celbiyle karşılaşmaktadır. Son yıllarda, dijital verilerle ilgili ek endişeler ortaya çıkarken, yasalar daha önceki özgürlüklere erişimi kısıtlamaya başladı; örneğin, bir kadının seçme hakkı gibi.
Yüksek Mahkeme, Roe v. Wade davasını bozduğunda, müşteriler daha özel dönem takip uygulamalarına ya da kayıtlarını şifreleyen Apple Health’e geçiş yapmaya başladı.
Altman, podcast sunucusuna kendi ChatGPT kullanımını da sordu; çünkü Von, gizlilik endişeleri nedeniyle AI sohbet botu ile çok fazla konuşmadığını belirtti.
Altman, “Bence çok mantıklı; ChatGPT’yi sıkça kullanmadan önce gizlilikin netleşmesini istemek – hukuki netlik gibi,” dedi.
