X meraklısı ve Reddit hissedarı Sam Altman, geçtiğimiz pazartesi günü önemli bir farkındalık yaşadı: Bots, sosyal medya paylaşımlarının gerçekten insan tarafından yazılıp yazılmadığını belirlemeyi neredeyse imkânsız hale getirdi.
Bu düşünce, Altman’ın r/Claudecode subredditinde OpenAI Codex’i öven bazı paylaşımları okurken ve paylaşırken aklına geldi. OpenAI, Mayıs ayında Anthropic’in Claude Code’uyla rekabet eden yazılım programlama hizmetini tanıtmıştı.
Son dönemde bu subreddit, Codex’e geçtiklerini iddia eden kullanıcıların paylaşımlarıyla dolup taşmış durumda. Hatta bir Reddit kullanıcısı, “Codex’e geçmek için Reddit’te konu açmadan geçmek mümkün mü?” şeklinde bir espri yaptı.
Altman, bu paylaşımların ne kadarının gerçek insanlar tarafından yapıldığını merak ettiğini belirtti. “Bunu okurken en tuhaf deneyimi yaşadım: Her şeyin sahte/bot olduğunu varsayıyorum, oysa bu durumda Codex’in büyümesinin gerçekten güçlü olduğunu biliyorum ve buradaki trend de gerçek,” diye ifade etti.
Sonrasında düşüncelerini canlı bir şekilde analiz etti. “Birkaç şeyin bir arada olduğunu düşünüyorum: Gerçek insanlar, LLM-dili tuhaflıklarını benimsemiş durumda, aşırı çevrimiçi kitleler çok korelasyonlu bir şekilde bir araya geliyor, heyecan döngüsü aşırı uçlar içeriyor ve sosyal platformların etkileşimi artırma baskısı var,” diye ekledi.
Altman, insanların LLM’ler gibi konuşmaya başladığını iddia ederken, bu LLM’lerin -OpenAI tarafından yönlendirilen- insan iletişimini taklit etmek üzere icat edildiğini hatırlatıyor. Altman, Reddit’te 2022’ye kadar yönetim kurulu üyesiydi ve şirketin IPO’su sırasında büyük bir hisse sahibi olarak kaydedilmişti.
Fandomların, sürekli sosyal medya kullanıcıları tarafından yönetildiğinde tuhaf şekillerde davrandığını belirten Altman, bu durumun, grupların öfke patlamalarına dönüşmesine neden olabileceğini ifade etti.
Altman, sosyal medya siteleri ve içerik üreticilerinin para kazanmak için etkileşime dayalı bir sistemde çalıştıklarını da eleştirerek, bu durumun adaletli olduğunu belirtti.
Ancak daha sonra, subreddit’teki pro-OpenAI paylaşımlarının bot olabileceği düşüncesinin bir sebebinin, OpenAI’nin de “astroturfing” ile karşı karşıya kalmış olması olduğunu itiraf etti. Bu, genellikle rakipler tarafından, insanlardan veya botlardan oluşan, gizli bir şekilde finanse edilen paylaşımları içeriyor ve bu da rakiplerin olası bir sorumluluktan kaçınmasını sağlıyor.
Astroturfing ile ilgili bir kanıt olmasa da, OpenAI subredditlerinin, GPT 5.0’ın piyasaya sürülmesinin ardından şirketle ters düştüğünü gözlemledik. Yeni modelin tanıtımı sırasında, sadık kullanıcılar arasında övgü yerine, birçok öfkeli paylaşım gündeme geldi.
Altman, sorunları kabul ettiği ve değişiklikler vaat ettiği bir Reddit “soru-cevap” seansında, GPT subredditinin eski sevgisini tam olarak geri kazanamadığını ve kullanıcıların hala GPT 5.0’ın değişikliklerinden ne kadar hoşlanmadığını düzenli olarak paylaştığını belirtti. Peki, bu kullanıcılar gerçek mi? Yoksa Altman’ın belirttiği gibi, bir şekilde sahte mi?
Altman, “Sonuç olarak, AI Twitter/AI Reddit, bir iki yıl önceki gibi gerçek değil gibi hissediyor,” dedi.
Bu doğruysa, suç kimde? GPT, modelleri o kadar iyi yazmaya yönlendirdi ki, LLM’ler sadece sosyal medya siteleri için değil, birçok alanda sorun haline geldi.
Reddit’te botlar tarafından yazılan veya LLM’ler kullanan insanlarla ilgili ne kadar içerik olduğu bilinmiyor, ancak muhtemelen önemli bir sayı. Veri güvenliği şirketi Imperva, 2024’te tüm internet trafiğinin %50’den fazlasının insan olmayan kaynaklardan geldiğini bildirdi.
Pek çok eleştirmen, Altman’ın sosyal medyanın günümüzde çok sahte olduğunu ifade etmesinin, OpenAI’nin söylentilere göre geliştirdiği sosyal medya platformunun ilk pazarlama hamleleri olabileceğini öne sürdü. Eğer OpenAI bir sosyal ağ planlıyorsa, botlardan tamamen arındırılmış bir alan olma olasılığı nedir? Ve ilginç bir şekilde, eğer tam tersini yapar ve insanları yasaklarsa, sonuçlar muhtemelen farklı olmayacaktır.
Sonuç olarak, LLM’ler hala gerçekleri çarpıtma eğilimindedir ve Amsterdam Üniversitesi’ndeki araştırmacılar, tamamen botlardan oluşan bir sosyal ağ kurduklarında, botların kendi aralarında klipler ve yankı odaları oluşturduğunu buldular.
