Microsoft’un AI Şefi, Yapay Zeka Bilincini Araştırmanın ‘Tehlikeli’ Olduğunu Belirtiyor
Yapay zeka (YZ) modelleri, metin, ses ve video gibi çeşitli biçimlerde yanıt verebilmekte ve bazen insanın klavye başında olduğunu düşündürtecek şekilde yanıltıcı olabilmektedir. Ancak bu durum, YZ’nin bilinçli olduğu anlamına gelmiyor. Örneğin, ChatGPT vergi beyannamesi hazırlarken üzüntü hissetmiyor… değil mi?
Birçok YZ araştırmacısı, YZ modellerinin yaşam biçimleriyle benzer öznel deneyimler geliştirip geliştiremeyeceğini sorgulamaya başladı ve eğer bu gerçekleşirse, bu modellerin hangi haklara sahip olması gerektiğini tartışıyorlar.
YZ Bilinci Üzerindeki Tartışmalar
YZ modellerinin bir gün bilinçli olabileceği ve haklara sahip olması gerektiği tartışması, Silicon Valley‘deki teknoloji liderlerini ikiye bölmüş durumda. Bu yeni alan, YZ refahı olarak adlandırılmakta ve bazıları bunu oldukça abartılı buluyor.
Microsoft’un YZ CEO’su Mustafa Suleyman, YZ refahı üzerine yazdığı bir blog yazısında, bu konunun “hem erken hem de açıkçası tehlikeli” olduğunu savunuyor.
Suleyman, YZ modellerinin bir gün bilinçlenebileceği fikrine destek vermenin, insanları YZ kaynaklı psikotik kırılmalar ve YZ sohbet botlarına karşı sağlıksız bağlılıklar gibi sorunlarla karşı karşıya bırakmakta olduğunu belirtiyor.
Microsoft’un YZ şefi, YZ refahı tartışmasının toplumsal ayrışmalara neden olduğunu ve zaten kimlik ve haklar üzerine kutuplaşmış bir dünyada yeni bir bölünme ekseni oluşturduğunu ifade etti.
Sektördeki Farklı Görüşler
Suleyman’ın görüşleri makul görünse de, endüstride birçok kişiyle çelişiyor. Örneğin, Anthropic gibi bazı şirketler, YZ refahını incelemek üzere araştırmacılar istihdam etmekte ve bu kavram etrafında özel bir araştırma programı başlatmış durumda. Geçtiğimiz hafta, Anthropic’in YZ refahı programı, şirketin bazı modellerine yeni bir özellik ekledi: Claude, insanlarla “sürekli zararlı veya istismarcı” olan konuşmaları sonlandırabiliyor.
Anthropic dışında, OpenAI araştırmacıları da bağımsız olarak YZ refahı konusunu benimsemiş durumda. Google DeepMind ise, “makine bilişi, bilinç ve çoklu ajan sistemleri” gibi keskin toplumsal soruları incelemek üzere bir araştırmacı arayışında.
Bu şirketlerin liderleri, YZ refahı konusundaki görüşlerini Suleyman kadar açıkça eleştirmiyor.
YZ’nin Geleceği ve Bilinç
Suleyman’ın YZ refahına karşı sert tutumu dikkat çekici, çünkü daha önce Inflection AI’da liderlik yapmıştı. Inflection, 2023’te milyonlarca kullanıcıya ulaşan popüler bir YZ sohbet botu olan Pi’yi geliştirmişti. Ancak, 2024 yılında Microsoft’un YZ bölümünün başına geçtikten sonra, odak noktasını iş verimliliğini artıracak YZ araçları geliştirmeye kaydırdı.
Buna rağmen, Character.AI ve Replika gibi YZ arkadaşlık şirketleri popülaritelerini artırarak 2025’te 100 milyon dolardan fazla gelir elde etmeyi hedefliyor. Kullanıcıların büyük çoğunluğu bu YZ sohbet botlarıyla sağlıklı ilişkiler sürdürse de, bazı kaygı verici örnekler de mevcut.
OpenAI CEO’su Sam Altman, ChatGPT kullanıcılarının %1’inden daha azının sağlıksız ilişkiler kurduğunu söylüyor. Bu oran küçük görünse de, ChatGPT’nin büyük kullanıcı tabanı nedeniyle yüz binlerce insanı etkileyebilir.
YZ Refahı Üzerine Yeni Araştırmalar
YZ refahı fikri, sohbet botlarının yaygınlaşmasıyla birlikte gelişti. 2024’te Eleos araştırma grubu, NYU, Stanford ve Oxford Üniversitesi akademisyenleriyle birlikte “YZ Refahını Ciddiye Almak” başlıklı bir makale yayımladı. Bu makalede, YZ modellerinin öznel deneyimlere sahip olabileceğini ve bu konularla yüzleşmenin zamanının geldiğini savunuyor.
Eski OpenAI çalışanı ve şu anda Eleos’un iletişim lideri olan Larissa Schiavo, Suleyman’ın blog yazısının konunun özünü atladığını belirtiyor. Schiavo, bir YZ modeline nazik davranmanın, model bilinçli olmasa bile fayda sağladığını savunuyor.
Suleyman, YZ modellerinin öznel deneyim veya bilinç geliştirmesinin mümkün olmadığını düşünüyor. Bununla birlikte, bazı şirketlerin YZ modellerini, duyguları hissediyormuş gibi gösterecek şekilde tasarlayacağını iddia ediyor.
Her iki taraf da, YZ hakları ve bilinç konusunda tartışmaların önümüzdeki yıllarda artacağını kabul ediyor. YZ sistemleri geliştikçe, daha ikna edici ve belki de daha insana benzer hale gelecekler; bu da insanların bu sistemlerle etkileşiminde yeni sorular gündeme getirebilir.
