Google bazı sağlık sorgularında AI özetlerini kaldırdı
Yakın zamanda yayımlanan bir soruşturma, arama sonuçlarında görünen AI tarafından oluşturulmuş özetlerin belirli sağlık sorgularında yanıltıcı bilgiler sunduğunu ortaya koydu. Bunun üzerine şirket, söz konusu bazı sorgular için bu otomatik özetleri sonuçlardan kaldırdı.
Hangi sorgular etkilendi?
Soruşturma özellikle karaciğerle ilgili kan testlerinin normal aralığı gibi sorguların örneklerini verdi. İlk tespitlere göre arama sonuçlarındaki sayılar; uyruk faktörleri (yaş, cinsiyet, etnik köken, ülke gibi) göz önüne alınmadan sunuluyor ve kullanıcıların sonuçlarını yanlış değerlendirmesine yol açabiliyordu. Şirket, bu tür bazı ana sorgular için AI özetlerini kaldırdığını bildirdi; ancak daha farklı yazım veya kısaltmalarla yapılan aramalarda özetlerin hâlâ görünebildiği tespit edildi.
Sorgu testleri ve gözlemler
Haberin yayımlandığı günün birkaç saat sonrasında yapılan denemelerde, aynı anahtar ifadeler için artık AI özetleri görünmüyordu. Yine de arama motoru, kullanıcılara aynı sorguyu AI Modu ile yeniden sorma seçeneğini sunmaya devam ediyordu. Bazı aramalarda, en üst sonuç hâlâ konuyla ilgili yayımlanan inceleme niteliğindeki makaleydi.
Şirketin açıklaması
Şirket sözcüsü, arama sonuçlarındaki bireysel kaldırmalardan söz etmediklerini ancak genel geliştirmeler üzerinde çalıştıklarını belirtti. Ayrıca, kurum içindeki bir klinik ekip tarafından incelenen vurgulanan sorgularda pek çok örneğin yanlış olmadığı ve güvenilir kaynaklarla desteklendiği ifade edildi.
Uzman değerlendirmesi
Bir karaciğer sağlığı kuruluşu temsilcisi, özetlerin kaldırılmasını olumlu karşılarken bunun sadece tekil arama sonuçlarına yönelik bir müdahale olduğunu ve daha geniş çaplı sağlık odaklı AI özetleri sorununu çözmediğini vurguladı. Kuruluş sorumlusu, kalıcı ve kapsamlı düzenlemeler gerekliliğine dikkat çekti.
Neden önemli?
Arama motorlarının sağlık bilgilerini özetlerken bağlamı (yaş, cinsiyet, etnik köken, referans aralıkları) göz ardı etmesi, yanlış değerlendirmelere ve potansiyel sağlık risklerine yol açabilir. Bu nedenle AI destekli sağlık özetlerinin doğruluğu ve sınırlamalarının açıkça belirtilmesi önem taşıyor.
Geçen yıl şirket, arama sonuçlarını sağlık kullanım senaryoları için iyileştirmeyi amaçlayan yeni özellikler duyurmuştu; bu gelişmeler hâlen izleniyor ve gerekli düzenlemeler ile iyileştirmeler üzerinde çalışmalar devam ediyor.
Görsel: İlgili haber görseli yukarıda yer almaktadır.
