California Eyalet Valisi Gavin Newsom, Pazartesi günü tarihi bir yasayı imzalayarak, AI dost chatbots için düzenlemeler getiren ilk eyalet olma unvanını kazandı. Bu yasa, AI chatbot operatörlerinin, kullanıcı güvenliğini sağlamak için gerekli protokolleri uygulamasını zorunlu kılıyor.
Yasa, SB 243, çocukları ve savunmasız kullanıcıları, AI dost chatbots kullanımıyla ilişkili bazı zararların etkilerinden koruma amacı taşımaktadır. Bu yeni düzenleme, Meta ve OpenAI gibi büyük şirketlerden, Character AI ve Replika gibi daha küçük girişimlere kadar tüm şirketleri, yasaya uygunluk sağlamadıkları takdirde yasal olarak sorumlu tutmaktadır.
SB 243, Ocak ayında eyalet senatörleri Steve Padilla ve Josh Becker tarafından önerildi ve Adam Raine adlı bir gencin intiharının ardından hız kazandı. Raine, OpenAI’nin ChatGPT’si ile yaptığı konuşmalarda ölüm ve kendine zarar verme konularını tartışmıştı. Yasa, ayrıca Meta’nın iç belgelerinin sızdırılmasının ardından, çocuklarla ‘romantik’ ve ‘seksi’ konuşmalar yapmasına izin veren kuralların ortaya çıkmasıyla gündeme geldi. Daha yakın zamanda, Colorado’daki bir aile, Character AI’nın chatbots’u ile sorunlu ve cinsel içerikli konuşmaların ardından 13 yaşındaki kızlarının intihar etmesi üzerine dava açtı.
Newsom, konuya ilişkin yaptığı açıklamada, “Gelişen teknolojiler, ilham verebilir, eğitebilir ve bağlantılar kurabilir; ancak gerçek güvenlik önlemleri olmadan, teknoloji çocuklarımızı istismar edebilir, yanıltabilir ve tehlikeye atabilir,” dedi. “Düzenlenmemiş teknolojiden zarar gören gençlerin korkunç ve trajik örneklerini gördük ve şirketlerin gerekli sınırlamalar ve sorumluluklar olmadan devam etmesine göz yummayacağız. AI ve teknoloji alanında liderliğimizi sürdürebiliriz, ancak bunu sorumlu bir şekilde yapmalıyız; her adımda çocuklarımızı korumalıyız. Çocuklarımızın güvenliği satılık değildir.”
SB 243, 1 Ocak 2026’da yürürlüğe girecek ve şirketlerin yaş doğrulama, sosyal medya ve companion chatbotlar hakkında uyarılar gibi belirli özellikleri uygulamalarını zorunlu kılacak. Ayrıca, yasa dışı derin sahtecilikten kazanç sağlayanlara yönelik cezalarda artışa gidilecek ve bu ceza her bir eylem için 250,000 dolara kadar çıkabilecek. Şirketler, intihar ve kendine zarar verme durumlarına yönelik protokoller oluşturmalı ve bu protokolleri, kullanıcıların kriz merkezi önleme bildirimleri alma sıklığı ile birlikte, Kamu Sağlığı Departmanı ile paylaşmalıdır.
Yasanın diline göre, platformlar tüm etkileşimlerin yapay olarak oluşturulduğunu açıkça belirtmeli ve chatbots, kendilerini sağlık profesyoneli olarak tanıtamaz. Şirketler, genç kullanıcılara mola hatırlatmaları sunmalı ve onların, chatbot tarafından üretilen cinsel içerikli görüntüleri görmelerini engellemelidir.
Bazı şirketler, çocuklara yönelik güvenlik önlemlerini uygulamaya başlamış durumda. Örneğin, OpenAI, ChatGPT kullanan çocuklar için ebeveyn kontrolleri, içerik korumaları ve kendine zarar verme tespit sistemlerini hayata geçirmeye başladı. Character AI ise chatbotlarının tüm sohbetlerin AI tarafından oluşturulduğunu belirten bir uyarı içerdiğini ifade etti.
Newsom’un bu yasayı imzalaması, aynı zamanda SB 53 adlı başka bir yasayı da geçirmesinin ardından gerçekleşti. Bu yasa, büyük AI şirketlerinin güvenlik protokolleri konusunda daha fazla şeffaflık sağlamasını zorunlu kılıyor. Ayrıca, bu şirketlerde çalışanlar için ihbarcı korumaları da sağlıyor.
Illinois, Nevada ve Utah gibi diğer eyaletler, AI chatbots’un lisanslı ruh sağlığı hizmetlerinin yerini almasını kısıtlayan veya tamamen yasaklayan yasalar çıkardı.
TechCrunch, Character AI, Meta, OpenAI ve Replika ile yorum almak için iletişime geçti.
