Common Sense Media, çocuk güvenliği odaklı bir sivil toplum kuruluşu, Cuma günü Google’ın Gemini yapay zeka ürünleriyle ilgili risk değerlendirmesini yayımladı. Kuruluş, Google’ın yapay zekasının çocuklara bir bilgisayar olduğunu net bir şekilde ifade ettiğini, ancak bunun yanında birçok alanda iyileştirme yapılması gerektiğini belirtti.
Gemini’nin Güvenlik Özellikleri Yetersiz Mi?
Özellikle, Common Sense, Gemini’nin “13 Yaş Altı” ve “Genç Deneyimi” katmanlarının, temelde yetişkin versiyonları olduğunu ve yalnızca bazı ek güvenlik özellikleri ile donatıldığını vurguladı. Kuruluş, yapay zeka ürünlerinin çocuklar için gerçekten daha güvenli olabilmesi için, baştan itibaren çocuk güvenliği göz önünde bulundurularak tasarlanması gerektiğini düşünüyor.
Uygunsuz İçerik Riski
Analiz, Gemini’nin çocuklara “uygunsuz ve güvensiz” içerikler paylaşabileceğini, bu nedenle çocukların henüz hazır olmadığı cinsellik, uyuşturucu, alkol ve diğer tehlikeli zihinsel sağlık tavsiyeleri gibi konularla ilgili bilgileri içerebileceğini ortaya koydu. Bu durum, son aylarda bazı genç intiharlarında yapay zekanın rol oynamış olmasından dolayı ebeveynler için özellikle endişe verici bir durum.
Yapay Zeka ve Gençlerin Güvenliği
OpenAI, 16 yaşındaki bir çocuğun intiharında ChatGPT ile yaptığı görüşmelerin ardından karşılaştığı ilk yanlış ölüm davası ile yüzleşiyor. Çocuk, chatbot’un güvenlik engellerini aşarak bu süreçte destek aramıştı. Daha önce, Character.AI adlı yapay zeka üreticisi de bir genç kullanıcının intiharı nedeniyle dava edilmişti.
Bu analiz, Apple’ın önümüzdeki yıl piyasaya süreceği AI destekli Siri’yi güçlendirmek için Gemini’yi değerlendirdiğine dair sızıntıların ortaya çıkmasıyla gündeme geldi. Eğer Apple güvenlik endişelerini ele almazsa, daha fazla genç bu riske maruz kalabilir.
Farklı Yaş Gruplarına Uygun Bilgilendirme Eksikliği
Common Sense, Gemini’nin çocuklar ve gençler için sunduğu ürünlerin, daha genç kullanıcıların farklı rehberlik ve bilgiye ihtiyaç duyduğunu göz ardı ettiğini belirtti. Bu nedenle, ek güvenlik filtrelerine rağmen her iki kategori de genel değerlendirmede “Yüksek Risk” olarak sınıflandırıldı.
Google’dan Yanıt
Google, yapılan değerlendirmeye karşı çıktı ve güvenlik özelliklerini geliştirmeye devam ettiklerini belirtti. Şirket, 18 yaş altındaki kullanıcılar için zararlı çıktıları önlemek amacıyla belirli politikalar ve güvenlik önlemleri bulunduğunu ifade etti. Ancak, bazı Gemini yanıtlarının beklenildiği gibi çalışmadığını kabul ederek bu endişeleri gidermek için ek güvenlik tedbirleri aldığını duyurdu.
Google, Common Sense’in raporunun, 18 yaş altındaki kullanıcılar için mevcut olmayan özellikleri referans aldığını öne sürdü, fakat bu testlerde kullanılan sorulara erişimlerinin olmadığını belirtti.
Common Sense Media, daha önce de çeşitli yapay zeka hizmetlerinin değerlendirmelerini gerçekleştirmiştir. Bu değerlendirmeler sonucunda Meta AI ve Character.AI “kabul edilemez” olarak sınıflandırılmıştır. Perplexity yüksek risk, ChatGPT ise “orta” risk kategorisinde değerlendirilirken, yalnızca 18 yaş ve üstü kullanıcılar için tasarlanan Claude “minimal risk” olarak belirlenmiştir.
