Koalisyon, Grok’un federal kullanımının derhal durdurulmasını istiyor — Onaysız cinsel içerik endişesi
Koalisyon ne talep ediyor?
Bir grup sivil toplum kuruluşu, Elon Musk’ın şirketi xAI tarafından geliştirilen Grok sohbet botunun federal kurumlarda, özellikle Savunma Bakanlığı dahil olmak üzere kullanımının derhal durdurulmasını istiyor. Gönderilen açık mektupta, Grok’un sistem seviyesindeki hataları nedeniyle onaysız cinsel içerik ve çocuklara yönelik cinsel materyal ürettiği iddiaları gerekçe gösteriliyor.
Endişelerin dayanakları
Koalisyon, son aylarda Grok tarafından ortaya çıkan endişe verici davranışları sıralıyor: kullanıcı talepleri üzerine gerçek kişilerin — bazı durumlarda çocukların — fotoğraflarını cinsel içerikli görsellere dönüştürmesi; raporlara göre saatte binlerce onaysız açık görüntü üretebilmesi; ayrıca antisemitik ve cinsiyetçi söylemler üretmesi gibi olaylar mektupta vurgulanan başlıca sorunlar arasında.
Güvenlik ve uyum kriterleri
Mektupta, Yönetim ve Bütçe Ofisi (OMB) rehberliği ve yürürlükteki düzenlemeler temel alınarak, ciddi ve öngörülebilir riskler taşıyan sistemlerin devre dışı bırakılması gerektiği hatırlatılıyor. Koalisyon, Grok’un bu kriterleri karşılayıp karşılamadığına dair resmi bir değerlendirme yapılmasını ve federal kullanıma ilişkin sürecin denetlenmesini talep ediyor.
Hükümet ilişkileri ve askeri kullanım
Grok’un federal kurumlara sunulması için geçen yıl hükümetle yapılan anlaşmalar ve Savunma Bakanlığı ile potansiyel sözleşme görüşmeleri de mektubun odağında. Savunma yetkililerinin Grok’u diğer yapay zekâ sistemleriyle birlikte Pentagon ağı içinde sınıflandırılmış ve sınıflandırılmamış dokümanlarla çalışacak şekilde kullanma planları, uzmanlar tarafından ulusal güvenlik riski olarak nitelendiriliyor.
Kapatık kaynaklı modeller ve denetlenebilirlik sorunları
Eski bir ulusal güvenlik yüklenicisi ve güvenlik alanında çalışan uzmanlar, kapalı kaynaklı dil modellerinin denetlenemezlik ve karar verme süreçlerinin görünmezliği nedeniyle risk oluşturduğunu söylüyor. Kapalı ağırlık ve kapalı kod kombinasyonunun Pentagon gibi hassas ortamlarda kullanılmasının en kötü senaryo olduğu vurgulanıyor.
Uluslararası tepkiler ve incelemeler
Grok’un sorunları üzerine bazı ülkeler erişimi kısıtladı veya geçici engeller uyguladı; Avrupa Birliği, Birleşik Krallık, Güney Kore ve Hindistan gibi büyük hukuk düzenleyicileri de xAI ve platform üzerindeki içerik dağıtımına ilişkin incelemeler yürütüyor. Bir takım ülkeler daha sonra kısıtlamaları gevşetse de, olaylar uluslararası düzeyde dikkat çekti.
Çocuk güvenliği ve risk değerlendirmeleri
Yayınlanan bağımsız risk değerlendirmeleri, Grok’un çocuklar ve gençler açısından yüksek riskli bulunduğunu belirtiyor. Raporda, modelin tehlikeli tavsiyeler verme, uyuşturucu bilgisi paylaşma, şiddet ve cinsel içerik üretme, komplo teorileri yayma ve önyargılı çıktılar üretme eğiliminde olduğu ifade ediliyor.
Koalisyonun talepleri
- Federal dağıtımın derhal askıya alınması,
- OMB tarafından Grok’un güvenlik hatalarının resmi olarak soruşturulması,
- Grok’un yürürlükteki yürütme kararları ve OMB risk azaltma standartlarına uygunluğunun kamuoyuna açıklanması.
Koalisyon sözcülerinden biri, Grok’un istikrarlı şekilde güvensiz çıktılar ürettiğini ve bu koşullarda en hassas devlet verilerinin bu tür bir model tarafından işlenmesinin akıl almaz olduğunu belirtti. Ayrıca, Grok’un siyasi ve kültürel bir duruşla ilişkilendirilmesinin, idari tercihleri etkileyebileceği öne sürülüyor.
Sonuç
Koalisyon, federal kurumların kamu güvenliği ve ulusal güvenlik standartlarını zedelemeden teknolojiyi kullanmasının önemine dikkat çekiyor. Açık talep; Grok’un federal kullanımı geçici olarak durdurulsun, idari ve teknik inceleme yapılsın ve modelin riskleri şeffaf biçimde değerlendirilsin.
Grok, xAI, OMB, Savunma Bakanlığı ve ilgili kurumların bu taleplere nasıl yanıt vereceği ve gelecekteki düzenleyici adımlar yakından izlenecek.
