Uvalde, çevrimiçi tehditlerin neden daha ciddiye alınması gerektiğini gösteriyor

Bir hafta önce bugün, 18 yaşında bir adam Teksas’ın Uvalde kentinde bir ilkokula girdi ve ülkemizin hiç bitmeyen anlamsız cinayetler serisinin sonuncusunu işledi. Ve bu dehşetin ardından – 19 çocuk öldü, iki öğretmen öldü, 18 kişi daha yaralandı – dikkat bir kez daha platformların şiddeti sağlamada ne gibi bir rol oynayabileceğine yöneldi.

Bu soru hem acil olarak gerekli hem de bir şekilde konunun dışında hissedebilir. Gerekli çünkü insanlar (genellikle gençler) sosyal medyada tehdit oluşturduktan sonra sürekli tutuklanıyorlar ve Uvalde davası bu tehditlerin neden daha ciddiye alınması gerektiğini bir kez daha gösteriyor.

Ve yine de, Amerika’nın silah şiddeti sorununun platform politikası veya uygulama düzeyinde çözülmeyeceği de açık. Sadece insanların silah edinmesini ve kullanmasını zorlaştırarak çözülebilir, özellikle de bunun gibi her hikayede yer alan saldırı silahları.

Ama burada platformlara odaklanıyoruz. Ve bunu göz önünde bulundurarak, atıcının çekimden bu yana geçen hafta çevrimiçi davranışları hakkında öğrendiklerimize bir göz atalım. Burada daha önce bildirdiğim çocuk güvenliği ve platformlarla ilgili konulara değiniyor ve platformların (ve gerekirse düzenleyicilerin) bir sonraki adımı atması gereken bazı açık adımlara işaret ediyor.

Bir avuç özel mesajın yanı sıra, Uvalde atıcısının Facebook’u fazla kullanmadığı görülüyor. Bu ve İnstagram bir zamanlar bu tür tehditler yapmak için varsayılan platformlardı, ancak yeni platformların gençlerle popülaritesi artıyor. Uvalde atıcısı, Twelve App adlı bir Fransız şirketi tarafından yaratılan Yubo adlı birini beğendi. Meerkat’ın 2015 yılında Amerika Birleşik Devletleri’nde canlı yayın çılgınlığını başlatmaya yardım ettikten sonra haline geldiği uygulama olan Houseparty’ye benzer bir ”canlı ürpertici” uygulama.

Pazar araştırma firması Sensor Tower’a göre, yalnızca Amerika Birleşik Devletleri’nde 18 milyondan fazla indirme ile oldukça popüler görünüyor.

Houseparty gibi, Yubo da kullanıcıların kendilerini küçük bir arkadaş grubuna canlı yayınlamalarına izin veriyor. Bükülme, Yubo’nun yeni arkadaşlar edinmeye odaklanması — benzer ilgi alanlarına sahip insanları bulmak ve sohbet etmelerine izin vermek. Özellikle gençler. Şirket, ”Yubo, genç olmanın gerçek özünü kutlayan bir sosyal canlı yayın platformudur” diyor. (Belki de bu nedenle, yaşlı erkeklerin payından ve istenmeyen cinsel gelişmelerinden daha fazlasını çekmiş görünüyor.)

Katliamdan sonraki günlerde gazeteciler, Yubo’nun tetikçinin birincil sosyal uygulaması olduğunu keşfetti. Diğer şeylerin yanı sıra tecavüz ve okul çatışmalarını tehdit etmek için kullandı. İşte Cnn’de Daniel A. Medina, Isabelle Chapman, Jeff Winter ve Casey Tolan:

Üç kullanıcı, Salvador Ramos’un dünya çapında on milyonlarca genç tarafından kullanılan bir uygulama olan Yubo’da cinsel şiddet uygulamakla veya okul çekimleri yapmakla tehdit ettiğine tanık olduklarını söyledi.

Tüm kullanıcılar tehditler yüzünden Ramos’un hesabını Yubo’ya bildirdiklerini söyledi. Ramos platformunda varlığını korumak için mümkün olduğunu, ancak ortaya çıktı, dediler. CNN, Ramos’un bir kullanıcıya Gürcistan merkezli bir ateşli silah üreticisinden çevrimiçi silah alımı için 2.000 dolarlık makbuz gönderdiği iddia edilen bir Yubo doğrudan mesajını inceledi.

Washington Post’ta Silvia Foster-Frau, Cat Zakrzewski, Naomi Nix ve Drew Harwell benzer bir davranış modeli buldular:

Austin’de Ramos’u Yubo panellerinde sık sık gördüğünü söyleyen 16 yaşındaki bir çocuk, Post’a Ramos’un uygulamadaki genç kadınlara sık sık saldırgan, cinsel yorumlar yaptığını ve Ocak ayında bir panel sırasında ona ölüm tehdidi gönderdiğini söyledi.

Genç, “Kızları taciz ettiğine ve tecavüz ve adam kaçırma gibi cinsel tacizle tehdit ettiğine tanık oldum” dedi. “Tek bir olay gibi değildi. Sık sık oldu.”

O ve arkadaşları Ramos’un hesabını Yubo’ya zorbalık ve diğer ihlaller için onlarca kez rapor ettiler. Asla geri duydu, dedi ve hesabı aktif kaldı.

Yubo, ağa soruşturmayla işbirliği yaptığını söyledi, ancak tekrar tekrar tehdit oluşturduğu bildirilmesine rağmen atıcının neden platformda kalabildiğine dair herhangi bir ayrıntı sunmayı reddetti.

Sürekli olarak şiddet içeren tehditler savuran ve bunu platforma yaptığı bildirilen bir kişinin herhangi bir sonuç görmemesi şok edici görünebilir. Ve yine de yıllardır, çocuklar bize bunun onlar için düzenli bir olay olduğunu söylüyorlar.

Geçen yılın Mayıs ayında, çocukları cinsel istismardan korumak için teknoloji inşa eden kar amacı gütmeyen bir kuruluş olan Thorn tarafından yapılan küçüklerin araştırmasına dayanan bir rapor hakkında yazdım. İşte bu anketten Uvalde davasıyla ilgili iki bulgu, bununla ilgili sütunumdan:

• Çocukların platform engelleme ve raporlama araçlarını kullanma olasılıkları, ebeveynlere ve diğer bakıcılara olanları anlatmaktan iki kat daha fazladır: Çevrimiçi cinsel etkileşimde bulunduğunu bildiren 9 ila 17 yaşındakilerin yüzde 83’ü suçluyu bildirme, engelleme veya susturma ile tepki gösterirken, yalnızca yüzde 37’si bir ebeveyne, güvenilir bir yetişkine veya akranına söylediklerini söyledi.
• Diğer kullanıcıları engelleyen veya raporlayan çocukların çoğunluğu, aynı kullanıcıların onları hızlı bir şekilde tekrar çevrimiçi bulduğunu söylüyor: Birini engelleyen çocukların yarısından fazlası, yeni bir hesap veya farklı bir platform aracılığıyla aynı kişi tarafından tekrar iletişim kurulduğunu söyledi. Bu, hem çocukların gerçek hayatta tanıdığı insanlar (yüzde 54) hem de yalnızca çevrimiçi tanıştıkları insanlar (yüzde 51) için doğruydu.

Kısacası: çoğu çocuk, ebeveynlere veya diğer bakıcılara çevrimiçi tehditler hakkında bilgi vermek yerine platform raporlama araçlarını kullanır, ancak çoğu durumda bu raporlama araçları etkili değildir. Geçen yılki röportajımızda Thorn’un CEO’su Julie Cordua, platform raporlama araçlarını kablolarını kesen yangın alarmlarına benzetmişti. Uvalde davasında, bu alarmlar etkili uygulama mekanizmalarına bağlı olmadığında ne olacağını görüyoruz.

Burada iyimserlik için bir yer varsa, suçluların gerçekten daha iyi savunulan platformlardan daha az kurulmuş olanlara ve bazı durumlarda daha az politika ve uygulama aracına sahip olanlara doğru hareket ettikleri gerçeğidir. Elbette bunun bir Facebook ya da belki de İnstagram daha bugün ortalama genç ile çok daha popüler olan zevkleri — Anlaşmazlık ve Seğirme değişen sadece kanıtıdır. Ancak bunun bir kısmı, özellikle Meta, YouTube ve Twitter’ın içerik denetimine yoğun bir şekilde yatırım yapması, kötü aktörlerin cezasızlıkla tehdit oluşturmasını ve yasaklardan kaçmasını zorlaştırmasıdır. Bu, hem şirketler hem de genel olarak dünya için içerik moderasyonunun değerine işaret ediyor.

Yubo’nun web sitesini ve geçmişini inceleyin ve iyi bir yönetime bağlı görünen bir şirket göreceksiniz. Uygulama, 2020’den beri güncellenmemiş olsa da, topluluk yönergelerini açıkça yayınladı. Yasak kaçakçılığı politikası var. Ayrıca, 13 yaşından küçük kullanıcıların kaydolmasını engellemek amacıyla yüz tanıma teknolojisini kullanır.

Şirket ayrıca, kötü davranış bulmak amacıyla canlı yayınları taramak için makine öğrenimini kullandığını ve kullanıcıların telefon numaraları gibi istemeden paylaşmak üzere olabileceği özel bilgileri aramak için metin mesajlarını taradığını söylüyor. Bunlar, diğer birçok platformun sunmadığı iyi, kullanışlı ve pahalı araçlardır.

Aynı zamanda, bunlar düzenleyicilerin hala içerik politikası, denetleme, uygulama veya bulduklarını bildirme konusunda asgari standartlar oluşturmadığı bir dünyada gönüllü önlemlerdir — aka “şeffaflık.” Yubo’nun temelde Uvalde atıcısının yaptığı her şeye karşı bir politikası olduğunu biliyoruz. Çocukların çevrimiçi olarak ne yaptığını gördüklerini, endişelendiklerini ve gelecekte olmasını önlemek için uygulamanın raporlama araçlarını kullandıklarını biliyoruz.

Ve genellikle bu durumlarda olduğu gibi, sonra ne olduğu hakkında hiçbir şey bilmiyoruz. Raporlar gözden geçirildi mi? İnsanlar mı, makineler mi? Ne buldular?

Kullanıcıların hesap oluşturmasına izin veren platformların, kişilerin bu hesapları kötü davranış için bildirmesine izin vermesi gerekir. (Dünyanın en büyük iletişim servislerinden biri olan İmessage’da hala bir hesap bildiremeyeceğinizi biliyor muydunuz?) Platformların, bu raporlarla ne yaptıklarını, hem bireysel olarak (bunu bildiren kişiye) hem de toplu olarak (genel olarak platformlardaki kötü davranışları anlayabilmemiz için) bize bildirmeleri de gerekir.

Bunu yapmak ne yazık ki bu ülkedeki silahlı şiddet salgınını durdurmak için hiçbir şey yapmayacak. Ancak, Yubo gibi uygulamaların kullanıcılarına kötü davranışları bildirmelerine izin verdiklerinde verdikleri sözü yerine getirecek — onları aldıklarında harekete geçecekler ve daha fazla zararı önlemek için çalışacaklar.

Kimse Yubo’yu Thorn’un Cordua’sının haklı olarak “yangın alarmı” olarak adlandırdığı sistemleri kurmaya zorlamadı.” Ama oldu. Yubo ve diğer platformların şu anda yapabileceği en az şey, bize bu alarmların gerçekten takılı olduğuna dair bazı kanıtlar sunmak.