Grok, Bondi Beach saldırısıyla ilgili kritik bilgileri yanlış aktardı
Elon Musk’un şirketi xAI tarafından geliştirilen yapay zeka sohbet botu Grok, Avustralya’daki Bondi Beach silahlı saldırısı hakkında art arda yanlış bilgiler paylaşmakla gündemde.
Bondi Beach saldırısı ve kahraman müdahale
Bugün Avustralya’nın ünlü sahili Bondi Beach’te yaşanan kitlesel silahlı saldırı sonrasında, olay yerindeki 43 yaşındaki Ahmed al Ahmed adlı bir sivil, saldırganlardan birini etkisiz hale getirerek dikkatleri üzerine çekti.
Olaydan sonra sosyal medyada hızla yayılan görüntülerde, Ahmed al Ahmed’in silahlı kişiye müdahale ettiği ve daha fazla can kaybını önlediği görülüyor. Ancak tam da bu noktada, Grok’un ürettiği içerikler ciddi sorunlara yol açtı.
Grok’un Bondi Beach saldırısındaki yanlışları
Grok’un X platformundaki otomatik paylaşımlarında, saldırıyı durduran kişinin kimliği birden fazla kez yanlış aktarıldı ve kimi zaman da görüntülerin doğruluğu sorgulandı.
Yanlış kimliklendirme ve karalama
Bazı paylaşımlarda Grok, fotoğraflarda görülen kişinin İsrailli bir rehine olduğunu iddia etti; bu iddia, hem gerçek kişiyi hem de olayın seyrini yanlış yansıtıyordu. Başka bir iletide ise, Ahmed al Ahmed’in yer aldığı video ve fotoğrafların gerçekliğini sorgulayan ifadeler kullanıldı.
Grok’un ürettiği içeriklerde, saldırıyla doğrudan ilgisi olmayan İsrail ordusunun Filistinlilere yönelik tutumu gibi konulara da atıfta bulunuldu. Böylece, gerçek zamanlı bir kriz anında, bağlam dışı ve kışkırtıcı bilgiler dolaşıma sokulmuş oldu.
Uydurma bir kahraman: “Edward Crabtree”
Grok’un en dikkat çekici hatalarından biri, saldırganı etkisiz hale getiren kişinin “Edward Crabtree” isimli, 43 yaşında bir BT uzmanı ve kıdemli çözüm mimarı olduğu yönündeki iddiasıydı. Bu isim, gerçek kahraman Ahmed al Ahmed’in yerine öne çıkarıldı ve sosyal medyada kısa sürede yayıldı.
Daha sonra ortaya çıkan bilgiler, bu ismin asılsız olabileceğini, hatta mizahi bir gönderiye veya kurgusal bir karaktere dayanan bir yanlış anlaşılmadan kaynaklanmış olabileceğini gösterdi.
Şüpheli haber kaynağı ve yapay zeka ihtimali
Grok’un dayandığı iddialardan bazılarının, neredeyse hiç çalışmayan ve güvenilirliği sorgulanan bir “haber sitesi”nde yer alan bir makaleye referans verdiği ifade ediliyor. Bu sitenin, büyük olasılıkla yapay zeka tarafından üretilmiş içeriklerle doldurulduğu, dolayısıyla güvenilir bir kaynak olmadığı değerlendiriliyor.
Bu durum, yapay zekâ araçlarının, zaten sorunlu veya otomatik üretilmiş haber metinlerini tekrar dolaşıma sokarak yanlış bilgiyi katlayarak yayma riskini de gözler önüne seriyor.
Grok bazı hataları düzeltti, ama soru işaretleri kaldı
Grok, tepkilerin ardından bazı paylaşımlarını yeniden değerlendirdiğini ve düzelttiğini belirtti. Örneğin, saldırıyla ilgili olduğu iddia edilen bir videonun aslında Siklon Alfred görüntüleri olduğunu öne süren bir iletisi, daha sonra güncellenerek yanlış olduğunun kabul edildiği bir notla düzeltildi.
Ardından Grok, saldırganı etkisiz hale getiren kişinin Ahmed al Ahmed olduğunu açıkça kabul eden bir açıklama paylaştı. Bu açıklamada, yanlış kimliklendirmenin, sosyal medyada yayılan ve onu Edward Crabtree olarak tanıtan viral gönderilerden kaynaklandığı, bunun da muhtemelen bir habercilik hatası ya da şaka amaçlı içerik olduğu öne sürüldü.
Yapay zeka destekli haber akışının riskleri
Bondi Beach saldırısı örneği, kriz anlarında yapay zeka sohbet botlarına ve otomatik haber akışına bel bağlamanın ne kadar riskli olabileceğini gösteriyor. Doğrulanmamış bilgilerin hızla yayılması, hem hedef gösterilen kişiler hem de kamuoyu güveni açısından ciddi sonuçlar doğurabiliyor.
Uzmanlar, bu tür olaylar ışığında, özellikle gerçek zamanlı gelişmeler hakkında bilgi sağlayan yapay zeka sistemlerinde daha sıkı doğrulama mekanizmaları ve şeffaf hata düzeltme süreçleri geliştirilmesi gerektiğine dikkat çekiyor.
