Yapay Zeka Sorunları: Sahte Raporlar ve Hata Avı Programlarının Geleceği
Yapay zeka (YZ) tarafından üretilen düşük kaliteli içerikler, son yıllarda interneti etkisi altına alarak birçok platformu kirletmeye başladı. Bu olgu, AI slop olarak adlandırılıyor ve web siteleri, sosyal medya platformları ve hatta bazı gazetelerde bile kendini gösteriyor.
Siber güvenlik alanı da bu durumdan muaf değil. Son bir yıl içinde, siber güvenlik uzmanları, AI slop ile oluşturulan hata avı raporları konusunda endişelerini dile getirdi. Bu raporlar, aslında var olmayan güvenlik açıklarını bildiren ve bir büyük dil modeli tarafından uydurulan içerikler olarak ortaya çıkıyor.
RunSybil’ın CTO’su Vlad Ionescu, bu sahte raporların genelde teknik olarak doğru göründüğünü, ancak derinlemesine incelendiğinde geçerliliğinin sorgulanabilir hale geldiğini belirtiyor. “İnsanlar makul görünen raporlar alıyor, fakat sonuçta bulamadıkları sahte bir açığa dair bir belirsizlikle karşılaşıyorlar.”
Ionescu, YZ’nin yardımcı olma amaçlı tasarlandığını ve bu nedenle sahte raporlar üreterek hata avı platformlarını doldurduğunu vurguladı. “Sonuçta, altın gibi görünen pek çok şey, aslında çöplükten ibaret,” diye ekliyor.
Geçtiğimiz yıl, bu durumun gerçek dünyada da birçok örneği yaşandı. Güvenlik araştırmacısı Harry Sintonen, açık kaynak güvenlik projesi Curl için sahte bir rapor alındığını açıkladı. “Curl, AI slop’u uzaktan hissedebiliyor,” dedi Sintonen.
Bazı platformlar da benzer sorunlarla karşılaştıklarını belirtti. Open Collective’in Benjamin Piouffle, gelen kutularının “AI çöplüğü” ile dolduğunu ifade etti. Bir geliştirici, CycloneDX projesinde, neredeyse tamamen YZ tarafından üretilen raporlar nedeniyle hata avı programını tamamen kapatma kararı aldı.
Önde gelen hata avı platformları, YZ tarafından oluşturulan raporların artışını gözlemliyor. HackerOne’ın ürün yönetim direktörü Michiel Prins, “Yanlış pozitif raporların artışını gördük,” diyerek, bu durumun güvenlik programlarının etkinliğini zedeleyebileceğini belirtti.
Bugcrowd’ın kurucusu Casey Ellis, YZ kullanan araştırmacıların sayısının arttığını ancak şu an için düşük kaliteli raporların artmadığını ifade etti. “Bu durum gelecekte artacak gibi görünüyor, ancak henüz olmadı.”
Mozilla, AI kaynaklı sahte raporların artmadığını ve hatalı rapor oranının sabit kaldığını bildirdi. Microsoft ve Meta, YZ konusunda önemli yatırımlar yapmalarına rağmen bu konuda yorum yapmaktan kaçındı.
Ionescu, artan AI slop sorununu aşmanın yollarından birinin, YZ destekli sistemlere yatırım yaparak raporların ön incelemesini yapabilmek olduğunu belirtti. HackerOne, bu alanda YZ’yi kullanarak gürültüyü azaltmayı hedefleyen yeni bir sistem geliştirdi. Bu yeni sistem, insan analistlerin devreye girdiği bir yapıyla çalışıyor.
Sonuç olarak, hackerlar YZ kullanmaya devam ederken, şirketlerin de bu raporları elemek için YZ’ye başvurması, hangi tarafın öne çıkacağını belirleyecek.
