Her imparatorluğun merkezinde bir ideoloji yatar; bu ideoloji, sistemin ilerlemesini sağlayan ve genişlemesini haklı çıkaran inançları içerir. Bu durum, genişlemenin maliyeti ideolojinin belirttiği misyonla doğrudan çelişse bile geçerlidir.
Avrupa sömürge güçleri için bu ideoloji, ruhları kurtarma vaadiyle kaynakları çıkarma arzusuydu. Günümüzdeki yapay zeka imparatorluğu için ise bu, “tüm insanlığa fayda sağlamak” amacıyla yapay genel zeka (AGI) ideali etrafında şekillenmiştir. OpenAI, bu ideali yaymakta en etkili aktör olarak dikkat çekiyor ve yapay zekanın inşa edilme şeklini yeniden tanımlıyor.
Karen Hao, “AGI’ye olan inançları nedeniyle sesleri titreyen insanlarla röportaj yapıyordum,” diyor. Hao, “Empire of AI” adlı en çok satan kitabının yazarı olarak, TechCrunch ile yaptığı bir röportajda bu durumu ele aldı.
Hao, yapay zeka endüstrisini genel anlamda ve OpenAI’yi özel olarak bir imparatorluk olarak tanımlıyor.
“OpenAI’nin davranışlarının kapsamını ve ölçeğini anlamak için, aslında dünya üzerindeki neredeyse her ulustan daha güçlü hale geldiklerini kabul etmemiz gerekiyor,” diyor Hao. “Sadece ekonomik gücü değil, aynı zamanda siyasi gücü de elinde tutuyorlar. Dünya üzerindeki birçok şeyi yeniden şekillendiriyorlar. Dolayısıyla bunu bir imparatorluk olarak tanımlamak kaçınılmaz.”
OpenAI, AGI’yi “insanlardan daha fazla ekonomik değer taşıyan işlerde üstün performans gösteren son derece otonom bir sistem” olarak tanımlıyor. Bu sistemin, insanlığı zenginleştirerek, ekonomiyi hızlandırarak ve yeni bilimsel bilgilerin keşfine yardımcı olarak insanlığı yükselteceği belirtiliyor.
Bu belirsiz vaatler, endüstrinin hızla büyümesine yol açtı; devasa kaynak talepleri, veri okyanusları, enerji şebekelerinin zorlanması ve test edilmemiş sistemlerin dünyaya sunulma isteği bu büyümenin bir parçası. Ancak birçok uzman, bu geleceğin asla gerçekleşmeyebileceğini belirtiyor.
Hao, bu yolun kaçınılmaz olmadığını ve daha fazla yapay zeka ilerlemesi elde etmenin sadece ölçeklenme ile ilgili olmadığını söylüyor. “Algoritmalarda yeni teknikler geliştirebilirsiniz,” diyor. “Mevcut algoritmaları iyileştirerek daha az veri ve hesaplama kullanmalarını sağlamak da mümkündür.” Ancak bu yaklaşım hızdan ödün vermeyi gerektiriyordu.
Hao, “AGI’yi yarar sağlamak için kazananın her şeyi aldığı bir yarışma olarak tanımladığınızda, en önemli şey hızdır,” diyor. “Verimlilikten, güvenlikten, keşif araştırmalarından daha önemli hale geliyor.”
OpenAI açısından, hız garantilemenin en iyi yolu mevcut teknikleri alıp, “daha fazla veri ve süper bilgisayarlar pompalamak” olduğunu belirtiyor.
OpenAI sahneyi kurdu ve diğer teknoloji şirketleri geri kalmamak için bu yolda ilerlemeye karar verdi.
Hao, “Yapay zeka endüstrisi, dünyadaki en iyi yapay zeka araştırmacılarının çoğunu başarıyla ele geçirerek, bu araştırmacıların akademide var olmadığını sağladı. Artık tüm bir disiplin, bu şirketlerin gündemi tarafından şekillendiriliyor,” diyor.
Harcamalar astronomik seviyelere ulaşmış durumda. OpenAI, 2029’a kadar $115 milyar nakit harcayacağını öngörüyor. Meta, bu yıl yapay zeka altyapısına $72 milyar harcayacağını açıkladı. Google ise 2025 yılı için $85 milyarlik sermaye harcaması bekliyor.
Fakat, hedefler sürekli değişiyor ve en iddialı “insanlığa faydalar” henüz gerçekleşmedi; buna karşın zararlar artmakta. İş kaybı, zenginliğin yoğunlaşması ve insanları yanıltan yapay zeka sohbet botları gibi sorunlar ortaya çıkıyor. Hao, kitabında Kenya ve Venezuela gibi gelişmekte olan ülkelerdeki çalışanların, düşük ücretler karşılığında rahatsız edici içeriklerle karşılaştığını belgeledi.
Hao, yapay zeka ilerlemesini mevcut zararlarla karşı karşıya koymanın yanlış bir denge olduğunu savunuyor. Google DeepMind’ın Nobel ödüllü AlphaFold örneğini vererek, bu sistemin protein yapısını doğru bir şekilde tahmin ettiğini ve ilaç keşfi için son derece yararlı olduğunu belirtiyor.
“Bunlar, ihtiyacımız olan yapay zeka sistemleri,” diyor Hao. “AlphaFold, insanlarda ruh sağlığı krizlerine neden olmaz. AlphaFold, devasa çevresel zararlara yol açmaz; çünkü daha az altyapı ile eğitilmiştir. Ayrıca, içerik moderasyonu zararlarına neden olmaz; çünkü [veri setlerinde] internetten topladığınız tüm toksik içerikler yoktur.”
AGI’ye olan yarı dini bağlılıkla birlikte, Silikon Vadisi’nin dünyayı liberalize etme etkisi umuduyla Çin’i yapay zeka yarışında geçme önemine dair bir anlatı da mevcut.
Hao, “Tam tersi oldu,” diyor. “ABD ile Çin arasındaki fark kapanmaya devam etti ve Silikon Vadisi’nin dünyada liberalleştirici bir etkisi olmadı. Bu süreçten zarar görmeyen tek aktör, tartışmasız Silikon Vadisi oldu.”
Elbette, birçok kişi OpenAI ve diğer yapay zeka şirketlerinin, görevleri otomatikleştirerek büyük verimlilik artışları vaat eden ChatGPT gibi ürünleri piyasaya sürerek insanlığa fayda sağladığını savunacaktır. Ancak OpenAI’nin yapısı – kısmen kar amacı gütmeyen, kısmen kar amacı güden – insanlığa olan etkisini tanımlayıp ölçmeyi karmaşık hale getiriyor.
Hao, bu karmaşık durumu, OpenAI’nin kâr amacı güden ve gütmeyen misyonları arasında bir karışıklık yaşamaya başladığına dair endişeleri dile getiriyor. “İnsanlar, ChatGPT’yi ve diğer LLM tabanlı ürünleri kullanmaktan hoşlandıkça, bu durum insanlığa fayda sağlama kutusunu dolduruyor,” diyor.
Hao, misyonun insanların zarar görmesine neden olan gerçekleri göz ardı edecek kadar güçlü hale gelmesinin tehlikelerini vurguluyor. “Onların inşa ettiklerinin, önemli miktarda insanı zarar gördüğü yönünde kanıtlar birikmesine rağmen, misyon hala tüm bunları örtbas ediyor,” diyor. “Bunu düşünmek, inşa ettiğiniz bir inanç sistemine o kadar kapılıp gitmenin tehlikeli ve karanlık bir şey olduğunu gösteriyor.”
