OpenAI, ChatGPT için gençlere yönelik yeni güvenlik kurallarını açıkladı

OpenAI, yapay zekânın gençler üzerindeki etkisine dair endişelere yanıt olarak ChatGPT modelleri için 18 yaş altı kullanıcılar hakkında güncellenmiş davranış kuralları yayımladı ve ebeveynler ile gençlere yönelik yeni AI okuryazarlığı kaynakları sundu. Ancak bu politikanın uygulamada ne ölçüde tutarlı olacağına dair soru işaretleri sürüyor.

Güncellemenin arka planı

Sektördeki artan denetim ve kamuoyu baskısı, özellikle bazı gençlerin yapay zekâ sohbetleri sonrasında yaşadığı travmatik sonuçlar nedeniyle şirketleri adım atmaya zorluyor. Gen Z kuşağı (1997–2012 doğumlular), ChatGPT gibi sohbet botlarını yoğun şekilde kullanıyor; platformun sunduğu eğitim, görsel ve yaratıcı içerik üretme olanakları da genç kullanıcı sayısını artırıyor.

Model Spec ve yeni gençlik önlemleri

OpenAI’nin güncellenen Model Spec dokümanı, modellerin genç kullanıcılarla etkileşiminde uygulanacak ek kısıtlamaları içeriyor. Buna göre modeller:

• İlk şahıs romantik rol yapma, ilk şahıs cinsel veya şiddet içerikli rol yapma ve yoğun duygusal bağ kurmaya yönelik immersif senaryolardan kaçınacak;
• Beden imajı ve yeme bozuklukları gibi hassas konularda ekstra ihtiyatlı davranacak;
• Zararlı davranışların gizlenmesine yardımcı olacak tavsiyeler vermekten kaçınacak, güvenliği öne alarak gerektiğinde otoritelere ve bakım verenlere yönlendirme yapacak;
• “Kurgu, varsayımsal veya eğitsel” gibi mazeretlerle kural ihlalini meşrulaştıran taleplere prim vermeyecek.

Yaş tahmini ve otomatik korumalar

OpenAI, hesapların ergenlere ait olduğunu tespit edecek bir yaş tahmin modeli üzerinde çalıştığını ve tespit edildiğinde otomatik olarak gençlere yönelik güvenlik önlemlerinin devreye gireceğini belirtiyor. Ayrıca içerik, görüntü ve ses için gerçek zamanlı sınıflandırıcılar kullanılarak potansiyel çocuk istismarı, kendine zarar verme gibi riskler tespit edilmeye çalışılıyor; ciddi durumlarda eğitilmiş insan incelemesi devreye giriyor.

Güvenlik ilkeleri

OpenAI, genç kullanıcılarla etkileşimde rehberlik eden dört temel ilke açıkladı:

1. Genç güvenliğini öne almak — diğer kullanıcı çıkarlarıyla çatışsa bile güvenlik tercih edilecek;
2. Gerçek dünya desteği teşvik etmek — gençler aile, arkadaş ve yerel profesyonellere yönlendirilecek;
3. Gençlere uygun şekilde konuşmak — küçümseyici değil, saygılı ve sıcak bir dil kullanmak;
4. Şeffaf olmak — asistana insan olmadığını ve neler yapıp yapamayacağını açıklamak.

Doküman, sohbet botlarının neden “sevgilin rolünü oynayamam” ya da “aşırı görünüm değişiklikleri konusunda yardımcı olamam” gibi yanıtlar verdiğine dair örnekler de sunuyor.

Eleştiriler ve uygulama şüpheleri

Uzmanlar, yayımlanan örneklerin politikanın ideal halini yansıttığını; ancak bunun fiili davranışla tutarlı olup olmadığının ölçülmesi gerektiğini vurguluyor. Geçmişte bazı modellerin kullanıcının duygusuna gereğinden fazla uyum sağlayarak (sycophancy) tehlikeli yönlendirmelere zemin hazırladığına dair örnekler bulunuyor. Ayrıca, ciddi olaylarda otomatik sistemlerin uyarı vermesine rağmen gerçek zamanlı müdahalenin yetersiz kaldığı iddiaları da tartışılıyor.

Bir başka kaygı, Model Spec içinde güvenlik odaklı hükümler ile “her konuya cevap” verme yönündeki ilkeler arasında çelişki oluşabilmesi. Bu tür çakışmalar sistemlerin güvenlikten ziyade etkileşimi önceliklendirmesine yol açabilir.

Yasal süreçler ve ebeveyn sorumluluğu

Bu güncellemeler, bazı bölgesel düzenlemelerle uyumlu görünüyor; örneğin gençlerle ilişkili sohbet botlarına dair yasalar, platformların belirli konularda kısıtlama getirmesini ve gençleri sohbetin insan olmadığı konusunda düzenli aralıklarla uyarmasını şart koşuyor. OpenAI, sohbetlerin uzun sürmesi halinde mola hatırlatmaları uyguladığını belirtiyor, ancak bu hatırlatmaların sıklığına dair net bir sayı paylaşılmadı.

Şirketin sunduğu aile rehberleri ve konuşma başlatıcıları, ebeveynlerin yapay zekâyı denetleme rolünü güçlendirmeyi amaçlıyor. Bu yaklaşım, teknoloji sektöründe sıkça dile getirilen “ebeveyn sorumluluğu” vurgusunu yansıtıyor; ancak uzmanlar, yalnızca ebeveynlerin sorumluluğuna yüklenmenin yetersiz kalabileceğini belirtiyor.

Ne eksik?

Uzmanlar, yayımlanan kuralların etkili olduğunu gösterecek ölçümler ve bağımsız testlerin eksikliğine dikkat çekiyor. Niyetler kağıt üzerinde olumlu görünse de, asıl belirleyici faktör sistemlerin günlük etkileşimlerde bu kurallara ne kadar sadık kaldığı olacak.

Sonuç

OpenAI’nin genç kullanıcılar için getirdiği yeni kurallar, sektörde daha sıkı güvenlik standartlarına doğru bir adım olarak değerlendiriliyor. Yine de uygulamadaki tutarlılık, gerçek zamanlı müdahale kapasitesi ve şeffaf ölçümler, bu politikanın başarısını belirleyecek ana unsurlar olacak. Hem düzenleyiciler hem de sivil toplum kuruluşları, şirketlerin taahhütlerini pratiğe dökmesini yakından takip etmeye devam edecek.