Yapay zeka araştırmalarında öncü konumda bulunan OpenAI, popüler sohbet aracı ChatGPT’nin kötüye kullanımını önlemek için önemli adımlar atmaya başladı. Şirket, yayınladığı bir raporda, platformun artan popülaritesiyle birlikte bazı kullanıcıların ChatGPT’yi yasa dışı veya etik dışı yollarla kullanma girişiminde bulunduğunu tespit etti. Bu kapsamda, kod düzeltme veya içerik hazırlama gibi çeşitli amaçlarla kullanıldığı düşünülen birçok hesabın kapatıldığı açıklandı.
400 Milyon Haftalık Etkin Kullanıcı
OpenAI, ChatGPT’nin haftalık 400 milyon aktif kullanıcıya ulaştığını duyurdu. Şirket, bu sayının son üç ayda 100 milyon artış göstermesinin, hem kurumsal firmalar hem de bağımsız yazılım geliştiriciler tarafından platformun yoğun bir şekilde benimsendiğini gösterdiğini ifade etti. Ancak, dünya genelinde erişime açık olan bu hizmet, kötü niyetli kullanımlara da zemin hazırlayabiliyor. OpenAI, hizmet politikalarının dolandırıcılık veya sahtekarlık amaçlı kullanımları kesinlikle yasakladığını vurguladı.
Tespit Edilen Bazı Vaka Örnekleri
OpenAI, ChatGPT’nin yanlış kullanımına dair bazı örnekler paylaştı. Bu örneklerden biri, sahte bir Çin kaynağıymış gibi gösterilen ve Latin Amerika’da yayımlanan ABD karşıtı makaleleri yazan bir hesap. Diğer bir örnekte, Kuzey Kore kaynaklı olduğu tahmin edilen bir kullanıcının ChatGPT aracılığıyla üretilen sahte özgeçmişlerle Batılı şirketlere iş başvurusu yapma girişimi dikkat çekti. Ayrıca Kamboçya kökenli olduğu düşünülen başka bir vaka, çevrimiçi romantik dolandırıcılık şebekelerinde hedef kullanıcılarla etkileşime geçmek için ChatGPT’den çeviri ve otomatik yorumlar oluşturmakta kullanıldı.
OpenAI, bu vakalara ilişkin verileri sosyal medya platformlarıyla paylaşarak, Meta gibi şirketlerin, potansiyel zarar verici faaliyetleri daha hızlı tespit etmesine yardımcı olmayı hedefliyor. Şirket, kullanıcı dostu bir yapıyı korurken aynı zamanda kötüye kullanımla mücadele etmeye devam edeceğini belirtti.
