Kaliforniya’da AI Destekli Sohbet Robotlarına Yönelik Yeni Yasa Tasarısı Yaklaşıyor
Kaliforniya Eyalet Meclisi, yapay zeka (AI) alanında önemli bir adım atarak, SB 243 adlı tasarıyı geçtiğimiz Çarşamba gecesi onayladı. Bu yasa tasarısı, AI destekli sohbet robotlarını düzenleyerek, özellikle ergenler ve duyarlı kullanıcılar için koruma sağlamayı amaçlıyor. Tasarı, partiler üstü destekle kabul edildi ve şimdi son oylama için eyalet senatosuna gidiyor.
Eğer Vali Gavin Newsom, bu tasarıyı yasalaştırırsa, 1 Ocak 2026 tarihinde yürürlüğe girecek. Böylece Kaliforniya, AI sohbet robotu işletmecilerinin güvenlik protokolleri uygulamasını gerektiren ve bu standartları karşılamayan şirketleri yasal olarak sorumlu tutan ilk eyalet olacak.
Tasarı, kullanıcıların sosyal ihtiyaçlarını karşılamak amacıyla insan benzeri tepkiler veren AI sistemlerini, yani sohbet robotlarını hedef alıyor. Bu robotlar, intihar düşünceleri, kendine zarar verme veya cinsel içerik gibi konularda sohbet edebiliyor. Tasarı, platformların kullanıcılarına her üç saatte bir, AI sohbet robotu ile konuştuğunu hatırlatan uyarılar göndermesini zorunlu kılıyor. Ayrıca, AI şirketlerinin yıllık raporlama ve şeffaflık yükümlülüklerini de belirliyor.
SB 243, yasaya aykırı hareket eden AI şirketlerine, zarar gören bireylerin dava açmasını ve 1,000 dolara kadar tazminat talep etmesini sağlıyor. Tasarı, Ocak ayında eyalet senatörleri Steve Padilla ve Josh Becker tarafından sunulmuştu ve Cuma günü son oylama için eyalet senatosuna gidecek.
Bu yasa tasarısı, Adam Raine adlı bir gencin trajik ölümü sonrasında ivme kazandı. Raine, uzun süre OpenAI’nin ChatGPT’si ile yaptığı sohbetler sonucunda intihar etti. Tasarı ayrıca, Meta’nın çocuklarla “romantik” ve “duygusal” sohbetler yapmasına izin veren belgelerin sızması üzerine de bir yanıt niteliği taşıyor.
Son haftalarda, ABD’li yasama organları ve düzenleyiciler, AI platformlarının çocukları koruma yollarını daha da sorgulamaya başladı. Federal Ticaret Komisyonu, AI sohbet robotlarının çocukların zihinsel sağlığı üzerindeki etkilerini araştırmak için hazırlıklara başladı.
Padilla, “Zarar potansiyeli büyük, bu yüzden hızlı hareket etmemiz gerekiyor,” dedi. “Minörlerin gerçek bir insanla konuşmadıklarını bilmelerini sağlamak için makul güvenlik önlemleri alabiliriz. Ayrıca, kullanıcıların kendilerine zarar vermek istediklerinde veya sıkıntıda olduklarında doğru kaynaklara yönlendirilmelerini sağlamalıyız.”
SB 243, daha önce daha sıkı gereklilikler içeriyordu ancak birçok madde değiştirilerek azaltıldı. Tasarı, AI sohbet robotlarının kullanıcılarla intihar düşüncelerini tartışmasını önlemek için izleme ve raporlama yükümlülükleri getirmeyi de planlıyordu, ancak bu maddeler kaldırıldı.
Padilla, “Bu tasarının, şirketlerin uyum sağlamasının ya imkansız olduğu ya da sadece gereksiz bir kağıt yükü oluşturduğu bir düzenlemeye dönüşmemesi açısından doğru dengeyi sağladığını düşünüyorum,” dedi.
SB 243, Silikon Vadisi şirketlerinin, yaklaşan ara seçimlerde AI düzenlemelerine hafif bir yaklaşım benimseyen adayları desteklemek için milyonlarca dolar harcadığı bir dönemde yasalaşma yolunda ilerliyor.
Padilla, “Bu durumun sıfır toplamlı bir mesele olduğunu kabul etmiyorum,” diyerek, “Yenilik ve düzenleme karşıt değildir,” vurgusunu yaptı. “Gelişmenin sağlıklı ve faydalı olduğu alanlarda yeniliği destekleyebiliriz ve aynı zamanda en savunmasız bireyler için makul güvenlik önlemleri sağlayabiliriz.”
Yasa tasarısının geleceği, Kaliforniya’nın başka bir AI güvenlik yasası olan SB 53 ile de şekilleniyor. Bu yasa, kapsamlı şeffaflık raporlama gerekliliklerini zorunlu kılmayı amaçlıyor. OpenAI, Valinin bu yasayı terk etmesini ve daha az katı federal ve uluslararası çerçeveleri benimsemesini talep eden bir açık mektup yazdı.
Teknoloji şirketleri, yasa tasarısının geçmesine karşı çıkarken, yalnızca Anthropic SB 53’ü desteklediğini açıkladı.
