Character.AI, çocuklar için yeni bir format olan “Hikayeler“i tanıttığını duyurdu. Bu özellik, kullanıcıların en sevdikleri karakterlerle etkileşimli kurgular oluşturmalarına olanak tanıyor. Bu yeni sistem, şirketin daha önceki chatbotlarının yanı sıra, 18 yaş altı kullanıcılar için erişiminin kapatıldığı bir dönemde hayata geçiriliyor.
Bu değişim, 24 saat boyunca erişilebilen AI chatbotlarının mental sağlık üzerindeki olumsuz etkileri konusunda artan endişelerin bir sonucu olarak ortaya çıktı. OpenAI ve Character.AI gibi şirketlere, kullanıcıların intiharlarındaki rolü nedeniyle birden fazla dava açıldı. Son bir ay içinde, Character.AI, 18 yaş altı kullanıcıların erişimini yavaş yavaş kısıtladı ve artık bu gruptaki kullanıcılar AI karakterleriyle sohbet edemiyor.
Şirket, blog yazısında, “Hikayeler, açık uçlu sohbetlerin yerine, kurguyu oluşturmanın ve keşfetmenin rehberli bir yolunu sunuyor” dedi. “Bu özellik, diğer çok modlu özelliklerimizle birlikte sunulacak, böylece gençler, en sevdikleri karakterlerle güvenli bir ortamda etkileşimde bulunmaya devam edebilirler.”
Etkileşimli kurgu, son yıllarda büyük bir popülerlik patlaması yaşadı, bu nedenle Character.AI’nin bu yönelimi mantıklı görünüyor. Ancak, chatbotlara aşırı bağımlı hale gelen kullanıcılar için bu değişiklik yeterli olmayabilir. Bu durum, Character.AI’nin chatbot erişimini kısıtlama kararını daha da haklı kılıyor.
Character.AI subredditinde yapılan yorumlarda ise tepkiler karışık. Bazı gençler, bu duruma hayal kırıklığı yaşadıklarını belirtse de, bunun doğru bir adım olduğunu düşünüyor.
“Bu yasak nedeniyle çok kızgınım ama aynı zamanda mutluyum çünkü artık başka şeyler yapabilirim ve bağımlılığım nihayet sona erebilir,” diyen bir genç kullanıcı yazdı.
Diğer bir kullanıcı ise, “18 yaşından küçük biri olarak bu durum sadece hayal kırıklığı yaratıyor. Ama aynı zamanda doğru bir karar çünkü yaşındaki insanlar buna bağımlı hale geliyor.” ifadelerini kullandı.
Yeni “Hikayeler” özelliğinin gençler tarafından nasıl kullanılacağı henüz belirsiz, ancak bu format, chatbotlarla rol yapmaktan daha az psikolojik açıdan sorunlu görünüyor. Chatbotlar, kullanıcılarla açık uçlu sohbetler gerçekleştirip, kullanıcı aktif olmasa bile istenmeyen mesajlar gönderebiliyor.
Character.AI’nin chatbot erişimini yaşa göre kısıtlama kararı, California’nın AI arkadaşlarını düzenleyen ilk eyalet olmasıyla aynı zamana denk geliyor. Bu arada, Senatörler Josh Hawley (R-MO) ve Richard Blumenthal (D-CT), çocuklar için AI arkadaşlarını tamamen yasaklayacak ulusal bir yasa tasarısı sundular.
Character.AI CEO’su Karandeep Anand, “Umuyorum ki bu adım, 18 yaş altı kullanıcılar için açık uçlu sohbetlerin uygun bir yol olmadığını gösteren bir standart belirler,” dedi.
