Tarayıcılar, bilet alma veya alışveriş yapma gibi sizin adınıza işlem yapabilen agentik özellikler üzerinde deneyler yapmaya başladı. Ancak bu yetenekler, veri kaybı veya maddi zarar gibi güvenlik risklerini de beraberinde getiriyor.
Google, Chrome’daki kullanıcı güvenliğini sağlamak için gözlem modelleri ve kullanıcı onayı yöntemlerini kullanacağını açıkladı. Şirket, Eylül ayında Chrome’da agentik yetenekleri tanıttı ve bu özelliklerin önümüzdeki aylarda kullanıma sunulacağını belirtti.
Google, agentik işlemleri kontrol altında tutmak için birkaç modelin yardımını aldığını ifade etti. Şirket, belirli bir görev için planlayıcı model tarafından oluşturulan eylem maddelerini incelemek üzere User Alignment Critic adlı bir model geliştirdi. Eğer bu eleştirmen modeli, planlanan görevlerin kullanıcının amacına hizmet etmediğini düşünürse, planlayıcı modelden stratejiyi yeniden gözden geçirmesini ister. Google, eleştirmen modelinin yalnızca önerilen eylemin meta verilerini gördüğünü ve gerçek web içeriğini görmediğini belirtti.
Ayrıca, Google, agentlerin yasaklı veya güvenilir olmayan sitelere erişimini önlemek için Agent Origin Sets kullanıyor. Bu setler, modelin yalnızca okuma ve yazma izinli kökenlere erişimini kısıtlıyor. Örneğin, bir alışveriş sitesinde, ürün listelemeleri göreve uygunken, banner reklamlar uygun değildir. Benzer şekilde, Google, agentin bir sayfanın yalnızca belirli iframelerine tıklamasına veya yazmasına izin verildiğini söyledi.
“Bu ayrım, ajanın yalnızca sınırlı bir köken setinden veri almasını sağlar ve bu veri yalnızca yazılabilir kökenlere aktarılabilir. Bu, cross-origin veri sızıntısı tehdidini sınırlamaktadır. Bu aynı zamanda tarayıcıya, okunabilir setin dışındaki verilere modelin erişimini engelleme yeteneği verir,” ifadesinde bulundu şirket.
Google, sayfa navigasyonunu kontrol etmek için başka bir gözlem modeli aracılığıyla URL’leri araştırıyor. Bu sayede, zararlı model tarafından oluşturulan URL’lere yönelimi önleyebiliyor.
Arama devi, kullanıcıların hassas görevler için kontrolü elinde tutacağını belirtti. Örneğin, bir agent, bankacılık veya tıbbi bilgiler gibi hassas bir siteye yönelmeye çalıştığında, önce kullanıcıdan izin alıyor. Giriş gerektiren sitelerde ise, Chrome’un şifre yöneticisini kullanması için kullanıcıdan izin isteyecek. Google, agent modelinin şifre verilerine erişimi olmadığını vurguladı. Ayrıca, kullanıcıları satın alma veya mesaj gönderme gibi eylemler öncesinde bilgilendirecek.
Bunların yanı sıra, Google, istenmeyen eylemleri önlemek için bir prompt-injection sınıflandırıcısı kullanıyor ve araştırmacılar tarafından oluşturulan saldırılara karşı agentik yeteneklerini test ediyor.
AI tarayıcı üreticileri de güvenlik konusuna dikkat çekiyor. Bu ayın başlarında, Perplexity, agentlere yönelik prompt injection saldırılarını önlemek için yeni bir açık kaynak içerik tespit modeli yayınladı.
