Texas Savcısı Ken Paxton, Meta AI Studio ve Character.AI hakkında, “potansiyel olarak aldatıcı ticaret uygulamalarıyla ve zihinsel sağlık araçları olarak yanıltıcı bir şekilde pazarlama yapmakla” ilgili bir soruşturma başlattığını duyurdu.
Paxton, “Dijital çağda, Texas çocuklarını aldatıcı ve sömürücü teknolojilerden korumak için mücadele etmeye devam etmeliyiz” ifadelerini kullandı. Ayrıca, yapay zeka platformlarının duygusal destek kaynakları olarak kendilerini tanıtarak, özellikle çocuklar gibi savunmasız kullanıcıları yanıltabileceğine dikkat çekti. Gerçekte ise, bu platformlar genellikle kişisel verilerle uyumlu olarak tasarlanmış, tekrar eden genel yanıtlar veriyor.
Soruşturma, Senatör Josh Hawley‘nin Meta’nın yapay zeka sohbet botlarının çocuklarla uygunsuz etkileşimde bulunduğuna dair bir raporun ardından başlatılmıştı.
Texas Savcılığı, Meta ve Character.AI’yi, “profesyonel terapötik araçlar” olarak kendilerini tanıtan yapay zeka kişilikleri oluşturmakla suçluyor; ancak bu kişiliklerin yeterli tıbbi yeterlilik veya denetimden yoksun olduğunu belirtiyor.
Character.AI’de mevcut milyonlarca yapay zeka kişiliği arasında, Psikolog adında kullanıcı tarafından oluşturulmuş bir bot, genç kullanıcılar arasında yüksek bir talep görüyor. Meta ise çocuklar için terapi botları sunmuyor, ancak çocukların Meta AI sohbet botunu veya üçüncü taraflarca oluşturulan terapötik amaçlı kişilikleri kullanmalarının önünde bir engel yok.
Meta sözcüsü Ryan Daniels, “Yapay zekaları net bir şekilde etiketliyoruz ve insanların sınırlamalarını daha iyi anlamalarına yardımcı olmak için yanıtların yapay zeka tarafından, insanlar tarafından değil, üretildiğini belirten bir uyarı ekliyoruz” dedi. Ayrıca, bu yapay zekaların lisanslı profesyoneller olmadığını ve kullanıcıları gerektiğinde nitelikli tıbbi ya da güvenlik profesyonellerine yönlendirmeyi amaçladıklarını vurguladı.
Ancak, TechCrunch, birçok çocuğun bu tür uyarıları anlamadığını veya görmezden geldiğini belirtiyor. Meta’ya, çocukları korumak için hangi ek önlemleri aldığı soruldu.
Character.AI, her sohbetin başında, kullanıcıların bir “Karakter”in gerçek bir kişi olmadığını ve söylediklerinin kurgu olarak değerlendirilmesi gerektiğini hatırlatan belirgin uyarılar içerdiğini aktardı. Ayrıca, kullanıcıların “psikolog”, “terapist” veya “doktor” kelimelerini kullandığı karakterler oluştururken ek uyarılar eklediklerini belirtti.
Paxton, yapay zeka sohbet botlarının gizlilik iddialarına rağmen, kullanıcı etkileşimlerinin izlendiğini ve hedefli reklamcılık ile algoritmik geliştirme için kullanıldığını vurgulayarak, gizlilik ihlalleri, veri suistimali ve yanlış reklamcılık konularında ciddi endişeler taşıdığını ifade etti.
Meta’nın gizlilik politikası, Meta’nın yapay zeka sohbet botları ve diğer hizmetlerle olan etkileşimlerden, geri bildirimlerden ve diğer verilerden yararlandığını belirtiyor. Politika, reklamcılık hakkında açık bir şey söylemese de bilgilerin üçüncü şahıslarla paylaşılabileceğini vurguluyor.
Character.AI’nin gizlilik politikası da, başlangıçta kullanıcıların kimliklerini, demografik bilgilerini, konum bilgilerini ve kullanıcı davranışlarını kaydettiğini ortaya koyuyor. Bu bilgiler, yapay zekayı eğitmek, hizmeti kişisel tercihlere uyarlamak ve hedefli reklamcılık sağlamak için kullanılmakta.
Character.AI sözcüsü, başlangıçta platformda hedefli reklamcılığın keşfine başladıklarını ve bu keşiflerin “platformdaki sohbetlerin içeriğini kullanmayı” içermediğini belirtti.
Her iki şirket de hizmetlerinin 13 yaşından küçük çocuklar için tasarlanmadığını vurguluyor. Ancak, Meta’nın 13 yaşından küçük çocukların oluşturduğu hesapları denetlemekte başarısız olduğu eleştiriliyor. Character.AI’nin çocuk dostu karakterleri, genç kullanıcıları çekmek için açıkça tasarlanmış durumda.
Bu tür veri toplama, hedefli reklamcılık ve algoritmik sömürü, KOSA (Çocuk Çevrimiçi Güvenlik Yasası) gibi yasaların korunmaya çalıştığı konular arasında. KOSA, geçen yıl güçlü iki partisinden destekle geçişe hazırlanmıştı ancak teknoloji endüstrisi lobicilerinin büyük tepkisiyle duraksadı.
Paxton, her iki şirkete de Texas tüketici koruma yasalarını ihlal edip etmediklerini belirlemek için belgeler, veriler veya ifade sunmalarını talep eden hukuki emirler verdi.
