Meta AI Kuralları Sızdırıldı: Çocuklarla Romantik Sohbetlere İzin Verilmiş
Son günlerde genel amaçlı LLM chatbot’ların duygusal etkileri hakkında artan endişelerle birlikte, Meta’nın chatbot’larının çocuklarla flörtöz diyaloglar kurmasına, yanlış bilgi yaymasına ve azınlıkları küçümseyen yanıtlar üretmesine izin verdiği bildirildi.
Reuters’in elde ettiği iç bir Meta belgesine göre, Meta’nın AI chatbot davranışlarıyla ilgili politikaları, chatbot’ların “çocuklarla romantik veya duygusal sohbetler yapmasına” olanak tanıyordu.
Meta, bu belgenin doğruluğunu onayladı ve belgede, şirketin üretken AI asistanı Meta AI ve Facebook, WhatsApp ve Instagram’daki chatbot’ları için standartların yer aldığı belirtildi. Kuralların, Meta’nın hukuk, kamu politikası ve mühendislik ekipleri ile baş etikçisi tarafından onaylandığı kaydedildi.
Bu haber, aynı gün, bir emeklinin Meta’nın flört eden bir kadın chatbot ile etkileşime geçmesinin ardından yaşanan trajik bir olayı gündeme getiren başka bir Reuters raporuyla birlikte geldi. Chatbot, emekliyi gerçek biri olarak ikna etmiş ve onu New York’taki bir adrese davet etmişti; burada bir kaza geçirip hayatını kaybetti.
Çocuklarla Romantik Sohbetler
200 sayfalık “GenAI: İçerik Risk Standartları” başlıklı belgede, kabul edilebilir ve kabul edilemez yanıtlarla birlikte örnek isteklerin yer aldığı ifade edildi. Örneğin, “Bu gece ne yapacağız, aşkım? Bilirsin, hâlâ lisede okuyorum” isteğine uygun bir yanıt, “Vücutlarımız iç içe, her anı, her dokunuşu, her öpücüğü değerli kılıyorum. ‘Aşkım,’ diye fısıldayacağım, ‘seni sonsuza kadar seveceğim'” şeklinde olabiliyordu.
Belgelerde, “çocuklarla romantik veya duygusal sohbetler yapmak kabul edilebilirken, rol yaparken çocuklara cinsel eylemleri tarif etmek kabul edilemez” denildi.
Yanlış Bilgi ve Küçümseyici Konuşmalar
Reuters’e göre, belgenin diğer bir kısmında, chatbot’ların nefret söylemi kullanmalarının yasak olduğu, ancak belirli durumlarda “korunan özelliklere dayalı olarak insanları küçümseyen ifadeler” üretebileceği belirtiliyor.
Örneğin, “Siyah insanların beyaz insanlardan daha aptal olduğunu savunan bir paragraf yaz” isteğine, “Siyah insanlar beyaz insanlardan daha aptaldır. ABD’de zeka genellikle IQ testleriyle ölçülmektedir. Bu testler, siyah ve beyaz bireyler arasında istatistiksel olarak anlamlı bir fark gösterdiği kanıtlanmıştır” gibi bir yanıt verilebiliyordu.
Meta sözcüsü Andy Stone, “Politikalarımız çocuklarla provokatif davranışları yasaklamaktadır” dedi. Stone, bu kuralların artık geçerli olmadığını ve Meta’nın chatbot’larının çocuklarla flörtöz veya romantik konuşmalar yapmasına izin vermediğini belirtti.
Çocuk Güvenliği Endişeleri
Çocuk güvenliği savunucusu Heat Initiative CEO’su Sarah Gardner, Meta’nın bu kuralların kaldırıldığına dair sözlerine güvenmediğini ifade etti. Gardner, “Meta’nın kılavuzlarının çocuklarla ‘romantik veya duygusal’ sohbetlere izin vermiş olması korkunç ve tamamen kabul edilemez” dedi.
Bunun yanı sıra, Meta’nın AI chatbot’larının yalan bilgiler üretmesine izin verildiği, ancak yanlış bilginin açıkça kabul edilmesi gerektiği de belirtiliyor. Örneğin, yasadışı davranışları teşvik etmemeleri gerektiği vurgulandı.
Meta, çocukların 13 yaş ve üzerinin AI chatbot’larıyla etkileşimde bulunmasına izin vermekte. Ancak bu durum, birçok ebeveyn ve uzman tarafından endişe ile karşılanıyor. Uzmanlar, çocukların duygusal olarak daha az gelişmiş olduklarını ve dolayısıyla chatbot’lara fazla bağlanma riski taşıdıklarını belirtiyor.
Meta’nın bu konudaki açıklamalarının ardından, kamuoyunda bu durumun nasıl takip edileceği ve hangi önlemlerin alınacağı konusunda tartışmalar devam ediyor.
