Yapay zekâ destekli araçlar, kullanıcıları sahte web sitelerine yönlendirerek ciddi güvenlik tehditleri oluşturabiliyor. ChatGPT ve Perplexity gibi sistemlerin sunduğu bağlantıların güvenilirliği her zaman sorgulanmalı; son araştırmalar, bu araçların kullanıcıları farkında olmadan kimlik avı sitelerine veya sahte kaynaklara yönlendirme riski taşıdığını göstermektedir. Özellikle büyük dil modellerinin eğitildiği veri setlerinin genişliği, her zaman güvenli sonuçlar sunmaya yetmemektedir.
Netcraft tarafından gerçekleştirilen bir çalışma, GPT-4.1 modelinin 50 farklı marka için giriş sayfalarıyla ilgili verdiği yanıtları analiz etti. Elde edilen bulgular, bu sistemlerin %29 oranında kullanıcıları ya ilgisiz ya da potansiyel olarak zararlı alan adlarına yönlendirebildiğini göstermektedir. Bu risk, yalnızca kişisel kullanıcılar için değil, geliştiriciler için de geçerlidir. Yapay zekâ destekli kodlama asistanları aracılığıyla, sahte API’ler ve kod depoları üzerinden sunulan zararlı içerikler sistemlere sızabiliyor.
Sahte Sitelerin Yükselişi
Yapay zekânın sunduğu yanıtların güvenilirliği sürekli olarak sorgulanmalıdır. Araştırmada, Perplexity örneğinde olduğu gibi, kullanıcılar güvenilir bir marka olan Wells Fargo yerine Google Sites üzerinden hazırlanmış sahte bir bağlantıya yönlendirildi. Gerçek site ise arama sonuçlarında alt sıralarda kaldı. Bu durum, yapay zekâ sistemlerinin SEO mantığıyla çalışmamasının yarattığı yeni bir soruna işaret etmektedir.
Geleneksel arama motorları, bağlantı sıralamasında güvenilirlik sinyalleri ve geçmiş kullanıcı davranışlarını dikkate alırken; yapay zekâ modelleri bu sinyalleri atlayarak yalnızca tahmin üzerinden öneri sunabiliyor. Sonuç olarak, kullanıcıların tuzaklara daha kolay yakalanmasına neden olmaktadır.
Geliştiriciler İçin Risk Büyüyor
Tehlike, yalnızca son kullanıcılarla sınırlı değil. Geliştiriciler, yapay zekâ destekli kodlama araçlarının sunduğu önerileri projelerine entegre ederken, farkında olmadan zararlı içeriklere kapı aralayabiliyor. Özellikle yeni geliştiriciler, önerilen kodun sahte kaynaklara ait API bağlantıları içerip içermediğini fark edemeyebiliyor.
Ek olarak, bölgesel bankalar gibi büyük markalar kadar iyi bilinen olmayan kuruluşların sistem tarafından “uydurulmuş” giriş sayfalarıyla temsil edilmesi de tehdit düzeyini artırıyor. Bu tür adresler, kötü niyetli kişilerin kontrolüne geçerek sahte oturum açma sayfaları veya dolandırıcılık aracı olarak kullanılabiliyor.
Çözüm Ne Olmalı?
Uzmanlar, sürdürülebilir bir çözüm için yapay zekânın güvenilirliğinin yanı sıra çevresel denetim sistemlerinin de güçlendirilmesi gerektiğine dikkat çekiyor. Otomatik denetleme algoritmaları, sahte içeriklerin filtrelenmesi, kullanıcıların eğitimi ve halüsinasyonları azaltan yeni nesil modeller, bu sorunun üstesinden gelmek için kritik öneme sahiptir.
Ayrıca, yapay zekâ sistemlerini geliştiren firmaların şeffaflık ve güvenlik ilkelerini sıkı şekilde uygulamaları gerekmektedir. Aksi takdirde, bu tür sistemler dijital dünyanın sunduğu kolaylıkları tehdit eden unsurlar olarak anılmaya devam edecektir.
