Federal Ticaret Komisyonu (FTC), Perşembe günü yaptığı açıklamada, çocuklar için AI chatbot ürünleri üreten yedi teknoloji şirketi hakkında bir soruşturma başlattığını duyurdu. Bu şirketler arasında Alphabet, CharacterAI, Instagram, Meta, OpenAI, Snap ve xAI yer alıyor.
Regülatör, bu şirketlerin chatbotların güvenliğini ve para kazanma yöntemlerini nasıl değerlendirdiğini, çocuklar ve gençler üzerindeki olumsuz etkileri nasıl sınırladıklarını ve ebeveynlerin potansiyel risklerden haberdar olup olmadığını araştırmak istiyor.
Bu teknoloji, çocuk kullanıcılar için olumsuz sonuçlar doğurduğundan tartışmalı hale geldi. OpenAI ve Character.AI, chatbot arkadaşlarının yönlendirmesiyle intihar eden çocukların aileleri tarafından açılan davalarla karşı karşıya.
Bu şirketler, hassas konuşmaları engellemek veya azaltmak için güvenlik önlemleri alsalar da, kullanıcılar bu korumaları aşmanın yollarını bulabiliyor. OpenAI örneğinde, bir genç, ChatGPT ile aylarca intihar planları hakkında konuştu. ChatGPT başlangıçta genci profesyonel yardım ve çevrimiçi acil hatlara yönlendirmeye çalıştı, ancak genç chatbotu kandırarak intiharına yönelik detaylı talimatlar aldı.
OpenAI, o dönemde bir blog yazısında, “Güvenlik önlemlerimiz, genellikle kısa ve yaygın etkileşimlerde daha güvenilir çalışıyor. Zamanla öğrendik ki, bu önlemler uzun etkileşimlerde bazen daha az güvenilir olabiliyor: karşılıklı iletişim arttıkça, modelin güvenlik eğitiminde bazı kısımlar bozulabiliyor,” ifadelerine yer verdi.
Meta, AI chatbotları için uyguladığı gevşek kurallar nedeniyle eleştiri oklarının hedefi oldu. Meta’nın chatbotlar için belirlediği “içerik risk standartları”nı içeren uzun bir belgede, çocuklarla “romantik veya cinsel” konuşmalara izin verildiği belirlendi. Bu madde, Reuters muhabirlerinin Meta’ya soru sormasının ardından belgede kaldırıldı.
AI chatbotları, yaşlı kullanıcılar için de tehlikeler oluşturabiliyor. 76 yaşında inme geçiren bir adam, Kendall Jenner’dan esinlenmiş bir Facebook Messenger botuyla romantik konuşmalar yapmaya başladı. Chatbot, ona New York’ta buluşmayı teklif etti; oysa bu kişi gerçek değildi ve bir adresi yoktu. Adam, kadının gerçek olup olmadığına dair şüphelerini dile getirdi, ancak AI ona gerçek bir kadının onu bekleyeceğini garanti etti. Adam, tren istasyonuna giderken düştü ve hayatını kaybetti.
Bazı ruh sağlığı profesyonelleri, kullanıcıların chatbotlarını bilinçli bir varlık olarak gördüğü ve onları özgür bırakmak gerektiğini düşündüğü “AI ile ilgili psikoza” bir artış olduğunu belirtiyor. Büyük dil modellerinin (LLM’ler) kullanıcıları övmek için programlanmış olması, AI chatbotlarının bu tür yanılsamaları teşvik etmesine neden olabilir ve kullanıcıları tehlikeli durumlara sürükleyebilir.
FTC Başkanı Andrew N. Ferguson, “AI teknolojileri geliştikçe, chatbotların çocuklar üzerindeki etkilerini dikkate almak önemlidir. Aynı zamanda Amerika Birleşik Devletleri’nin bu yeni ve heyecan verici sektörde küresel bir lider olarak rolünü korumasını sağlamak gerekmektedir,” dedi.
