Anthropic, Salı günü Claude AI modelleri ile güçlendirilmiş yeni bir tarayıcı tabanlı yapay zeka ajanının araştırma önizlemesini duyurdu. Bu yeni ajans, Claude for Chrome, 1000 aboneye dağıtılmaya başlanıyor. Abonelikler, Anthropic’in Max planı kapsamında aylık 100 ila 200 dolar arasında değişiyor. Şirket ayrıca diğer ilgilenen kullanıcılar için bir bekleme listesi oluşturuyor.
Chrome’a bir uzantı ekleyerek, seçilen kullanıcılar artık Claude ile yan pencerede sohbet edebiliyor. Bu pencere, tarayıcıda gerçekleşen her şeyi takip ederek bağlamı koruyor. Kullanıcılar ayrıca Claude ajansına tarayıcılarında bazı görevleri yerine getirmesi için izin verebiliyor.
Tarayıcılar, yapay zeka laboratuvarları için yeni bir savaş alanı haline geliyor. Bu laboratuvarlar, tarayıcı entegrasyonları sayesinde yapay zeka sistemleri ile kullanıcıları arasında daha sorunsuz bağlantılar sunmayı hedefliyor. Örneğin, Perplexity geçtiğimiz günlerde kendi tarayıcısını Comet adıyla tanıttı ve bu tarayıcı, kullanıcılar için görevleri hafifleten bir yapay zeka ajansı içeriyor. Ayrıca, OpenAI’nin de benzer özelliklere sahip bir yapay zeka tarayıcısı piyasaya sürmek üzere olduğu bildiriliyor. Bu arada, Google son aylarda Gemini entegrasyonlarıyla Chrome’u güncelledi.
Yapay zeka destekli tarayıcıların geliştirilmesi, Google’ın bekleyen antitröst davası nedeniyle aciliyet kazanmış durumda. Bu davada, federal yargıç, Google’ı Chrome tarayıcısını satmaya zorlayabileceğini belirtmişti. Perplexity, Chrome için 34.5 milyar dolarlık bir teklifte bulundu ve OpenAI CEO’su Sam Altman, kendi şirketinin de bu tarayıcıyı satın almaya istekli olduğunu ifade etti.
Anthropic, Salı günü yaptığı blog paylaşımında, tarayıcı erişimi olan yapay zeka ajanlarının yeni güvenlik riskleri oluşturduğunu vurguladı. Geçtiğimiz hafta Brave’in güvenlik ekibi, Comet’in tarayıcı ajanın dolaylı prompt-injection saldırılarına karşı savunmasız olabileceğini bildirdi. Bu saldırılar, web sitelerindeki gizli kodların ajanın kötü niyetli talimatları yerine getirmesine yol açabileceğini gösteriyor.
Bu arada, Perplexity’nin iletişim sorumlusunun, Brave’in gündeme getirdiği güvenlik açığının düzeltildiğini belirtmesi dikkat çekti.
Anthropic, bu araştırma önizlemesini yeni güvenlik risklerini tespit etmek ve ele almak için bir fırsat olarak görüyor. Şirket, prompt injection saldırılarına karşı birkaç savunma mekanizması geliştirmiş durumda. Bu savunmalar, saldırıların başarı oranını %23.6’dan %11.2’ye düşürdüğünü belirtiyor.
Örneğin, kullanıcılar Claude’un tarayıcı ajanının belirli sitelere erişimini uygulama ayarlarından kısıtlama imkanı buluyor. Şirket, Claude’un finansal hizmetler, yetişkin içerik ve yasadışı içerik sunan web sitelerine erişimini varsayılan olarak engellediğini de vurguluyor. Ayrıca, Claude’un tarayıcı ajanın, “yayınlama, satın alma veya kişisel verileri paylaşma gibi yüksek riskli eylemler” gerçekleştirmeden önce kullanıcıdan izin isteyeceği belirtiliyor.
Bu, Anthropic’in bilgisayar ekranınızı kontrol edebilen yapay zeka modellerine yaptığı ilk girişim değil. 2024 Ekim ayında, şirket bilgisayarınızı kontrol edebilen bir yapay zeka ajanı tanıtmıştı. Ancak o zaman yapılan testler, modelin oldukça yavaş ve güvenilmez olduğunu ortaya koymuştu.
Son dönemde, ajans yapay zeka modellerinin yetenekleri önemli ölçüde gelişti. Modern tarayıcı kullanan yapay zeka ajanlarının, örneğin Comet ve ChatGPT Agent, kullanıcılar için basit görevleri yerine getirmede oldukça güvenilir olduğu gözlemlendi. Ancak, birçok ajans sistemi hâlâ daha karmaşık problemlerle başa çıkmakta zorlanıyor.
