Facebook'un gizli çapraz kontrol denetleme programının derin eşitsizlikleri

Bugün, herhangi bir büyük sosyal ağın kalbindeki gerilimi gidermeye çalışan Meta Gözetim Kurulu'nun yeni görüşünden bahsedelim: bir yandan, kullanıcılarına eşit davranma arzusu; ve diğer yandan, uygulamada bazı kullanıcı gruplarının özel muameleyi hak ettiğinin kabulü.

Hiçbir şirket, bazı müşterilerinin diğerlerinden daha önemli olduğunu açıkça söylemek istemez. Ancak pratikte, özellikle sosyal ağlarda, bazı müşteriler – en azından hesaplarına ve gönderilerine nasıl davranıldığı konusunda. Bir ülkenin cumhurbaşkanı vatandaşlarıyla bir platformda düzenli olarak iletişim kuruyorsa (özellikle işinizi yasaklayabilecek veya başka bir şekilde kısıtlayabilecek bir ülke), gönderilerini kaldırmak veya hesaplarını askıya almak için atacağınız adımlar konusunda ekstra dikkatli olmak istersiniz.

Kısacası hata yapmak istemezsiniz.

O zamanlar Facebook olarak bilinen şirket, bazen "Xcheck" olarak adlandırılan "çapraz kontrol"ü yarattı ve dünya çapında uyguladı. Programın varlığı ilk olarak geçen yıl Frances Haugen'in ifşaatlarının bir parçası olarak Wall Street Journal tarafından belgelendi. Jeff Horwitz'in makalesi, bazı çalışanların, programın platformun en önde gelen kullanıcılarından bazılarına gereksiz korumalar sağladığını ve genellikle Facebook müdahale etmeden önce zararlı içeriğin günlerce canlı kalmasına izin verdiğini düşündüklerini ortaya çıkardı.

Horwitz şunları yazdı:

Avukat-müvekkil ayrıcalıklı olarak işaretlenen Facebook'un beyaz liste uygulamalarına ilişkin 2019 yılında yapılan dahili bir inceleme, bu kullanıcılara yönelik kayırmanın hem yaygın hem de "alenen savunulamaz" olduğunu ortaya çıkardı.

Gizli inceleme, "Kamusal olarak yaptığımızı söylediğimiz şeyi aslında yapmıyoruz" dedi. Şirketin eylemlerini "güven ihlali" olarak nitelendirdi ve ekledi: "Topluluğumuzun geri kalanının aksine, bu insanlar herhangi bir sonuca varmadan standartlarımızı ihlal edebilir."

Makalenin yayınlanmasından günler sonra, içerik denetimini ve politika kararlarını denetlemek amacıyla Meta tarafından finanse edilen bağımsız bir organ olan Gözetim Kurulu , araştıracağını söyledi . Bundan bir hafta sonra , Metaresmi olarak yönetim kurulundan çapraz kontrol ile ne yapması gerektiğine dair bir danışma görüşü yayınlamasını ve bazı gönderilere ve hesaplara hata yapmamak için fazladan bir inceleme katmanı vereceği şeklindeki temel fikri istedi.

Bir yıldan fazla bir süre sonra, Salı günü yönetim kurulu görüşünü bildirdi . Geçenlerde kurulun yavaşlığını eleştirdim – 23 üyesi geçen çeyrekte sadece üç fikir üretmeyi başardı – ama bu durumda bu tamamen kurulun hatası değildi.

57 sayfalık görüşte açıklandığı gibi Meta, kurulun bilgi toplama sürecinde ayaklarını sürüdü ve bir vakada ne tür hesapların çapraz kontrol korumasına hak kazandığına ilişkin bir soruyu yanıtlamak için neredeyse beş ay bekledi. Yönetim kurulu, o zaman bile Meta'nın yalnızca "mevcutta listelenen her varlık hakkında sınırlı toplu veri" sunduğunu söyledi.

(Meta, şirketlerin bu durumlarda sıklıkla yaptığı gibi mahremiyetle ilgili endişelerden bahsetti, ancak yönetim kurulu "bu endişelerin hafifletilebileceğine ve daha kapsamlı açıklamaların yapılabileceğine inandığını ve Meta'ya işaret ettiğini" söyledi.) Nispeten kuru, kasvetli dünyada. Meta ile yönetim kurulu arasındaki iletişim açısından, bunun oldukça hastalıklı bir yanık olarak nitelendirildiğini düşündüm.)

Atlatmalara ve gecikmelere rağmen, yönetim kurulu sonunda çapraz kontrol hakkında çok miktarda bilgi elde etti ve görüş, bunu takdire şayan derecede ayrıntılı bir şekilde ortaya koyuyor. Kurul, programın şeklini belirledikten sonra bazı önemli sonuçlara ulaştı.

Bir dakika içinde bu sonuçlara varacağız. Ama önce çapraz kontrolün ne olduğuna dair biraz daha açıklama yapmakta fayda var. Özellikle Journal'ın raporundan sonra Meta, sistemin doğasında var olan eşitsizliği azaltmak amacıyla programın kapsamını genişletti. Yönetim kurulu tüm bunları tek bir düzgün paragrafta özetliyor:

Meta'ya göre içerikle ilgili bu ölçekte kararlar almak, bazen politikalarını ihlal etmeyen içeriği yanlışlıkla kaldırması anlamına geliyor. Çapraz kontrol programı, başlangıçta kurallarını ihlal ettiği belirlenen belirli gönderiler için ek insan incelemesi katmanları sağlayarak bu sorunu çözmeyi amaçlıyor. Meta'nın çapraz kontrol listelerindeki kullanıcılar bu tür içeriği yayınladığında, çoğu insan için olduğu gibi hemen kaldırılmaz, daha fazla insan incelemesi için beklemeye bırakılır. Meta, bu tür çapraz kontrolü "Erken Yanıt İkincil İncelemesi" (ERSR) olarak adlandırır. 2021'in sonlarında Meta, çapraz kontrolü, yayınlayan kişinin kimliği yerine içeriğin kendisine göre daha ayrıntılı inceleme için işaretlenen belirli gönderileri içerecek şekilde genişletti. Meta, bu tür çapraz kontrolü "Genel İkincil İnceleme" (GSR) olarak ifade eder.

İkinci tür bir çapraz kontrol programı oluşturmak ve onu nominal olarak tüm kullanıcılara genişletmek, Meta için bariz halkla ilişkiler faydaları sağladı ve bu durumda, içeriğin haksız yere kaldırılması için sunduğu korumaların tüm kullanıcıları kapsadığını iddia edebilir. Ancak pratikte kurul, "genel ikincil inceleme" kuyruğunda çok az kişinin çalıştığını ve bu tür inceleme için işaretlenen gönderilere genellikle hiçbir zaman bir inceleme verilmediğini tespit etti.

Bu da bizi kurulun vardığı sonuçlara götürüyor. Bu parçalardan ilki ve en önemlisi Journal'ın haberciliğindeki temel iddia: "kullanıcılara eşit olmayan muameleye" yol açıyor. Kurul yazıyor:

Çapraz kontrol, belirli kullanıcılara diğerlerinden daha fazla koruma sağlar. Meta'nın çapraz kontrol listelerindeki bir kullanıcının gönderisinin şirketin kurallarını ihlal ettiği belirlenirse, daha fazla incelenmek üzere platformda kalır. Meta daha sonra, istisnalar ve bağlama özel hükümler dahil olmak üzere tüm politikalarını gönderiye uygulayarak muhtemelen platformda kalma şansını artırır. Buna karşılık, sıradan kullanıcıların içeriklerinin Meta'nın tüm kurallarını uygulayabilen gözden geçirenlere ulaşma olasılığı çok daha düşüktür. Bu eşitsiz muamele, Meta'nın çapraz kontrol listeleri için şeffaf kriterlerin olmaması nedeniyle özellikle kaygı vericidir. İş ortakları ve hükümet liderlerini dahil etmek için net kriterler olsa da, gazeteciler ve sivil toplum kuruluşları gibi içeriği insan hakları açısından önemli olabilecek kullanıcıların programa erişim yolları daha belirsizdir.

Ve sadece programın eşitsiz muameleye yol açması da değil. Meta'nın kimlerin ESR'ye hak kazandığına dair tam verileri paylaşmadığı gerçeği sayesinde, bunun ne kadar eşitsiz olduğunu bile bilmiyoruz . Meta'nın sonunda bu konuda ne kadar az paylaşım yapmayı seçtiği göz önüne alındığında, eşitsizliğin burada yönetim kurulunun bile varsaydığından çok daha derin olması mümkündür.

İkinci bir sonuç, bu eşitsizliğin zarara neden olduğudur. Tanınmış bir hesap, Facebook'ta korkunç bir şey yayınlarsa, ESR, otomatik sistemler tarafından kaldırılmayacağı anlamına gelir. Facebook'un bu durumlardaki amacı, içeriği 12 saat ila beş gün içinde kaldırmaktır. Ancak pratikte yönetim kurulu, Amerika Birleşik Devletleri'nde bile şirketin "karar vermesinin ortalama 12 gün" sürdüğünü tespit etti. Bir vakada yönetim kurulu, şirketin bir gönderiyi değerlendirmesinin şaşırtıcı bir şekilde 222 gün sürdüğünü tespit etti.

Burada bariz olanı belirtmek gerekirse, nefret söylemi, şiddet ve şirketin topluluk standartlarının diğer ihlallerinin sitede canlı yayınlanması için uzun bir süre.

Yönetim kurulunun ulaştığı üçüncü önemli sonuç, şirket için çapraz kontrol ne kadar önemli olursa olsun, programın etkililiğini gerçekten ölçmediğidir. Kurul, "Örneğin, Meta, çapraz kontrol yoluyla aldığı kararların normal kalite kontrol mekanizmalarına göre daha fazla veya daha az doğru olup olmadığını izlediğini gösteren bilgileri kurula sağlamadı" diyor. Facebook'ta 222 gün boyunca potansiyel olarak zararlı şeyler bırakacaksanız, öyle olup olmadığını bilmek istemez miydiniz?

Kısacası, Meta politika kararlarını genellikle insan hakları diliyle süslese de, yönetim kurulu, – muhtemelen tahmin edeceğiniz gibi – çapraz kontrolün öncelikle iş ihtiyaçlarına hizmet etmek için tasarlandığını fark eder.

Ve bu konuda ne yaparsın?

Yönetim kuruluna kalsaydı, Meta bu konuda çok şey yapardı. Üyeler, artık yanıt vermek zorunda olan şirket için 32 farklı tavsiyede bulundu. (Şirket, yönetim kurulunun tüm taleplerini değerlendirmek için ekstra uzun bir 90 günlük süre talep etti ve aldı.)

Daha da önemlisi, kurulun ikincil bir inceleme sistemi fikrini temelde desteklemesi. Büyük ölçekli içerik denetleme sistemlerinin kaçınılmaz olarak hatalar yapacağını ve Meta'nın bunları azaltmak için harekete geçmesi gerektiğini kabul eder. Bunun da bazı hesapların özel korumalar için tayin edilmesi anlamına geldiğini kabul eder.

Aynı zamanda yönetim kurulu, Meta'nın böyle bir sistemi uygulamasının son derece sorunlu ve muhtemelen kendi başına bir skandal olduğunu tespit etti. Örneğin, Facebook'un günlük aktif kullanıcılarının yalnızca yüzde 9'u Amerika Birleşik Devletleri veya Kanada'danken, şirket tarafından incelenen tüm ESR içeriğinin yüzde 42'si bu iki ülkeden geldi. Bu, uzun süredir bildiğimiz bir şeyin güçlü bir örneğidir: içerik denetimi biz Kuzey Amerikalılar için yetersiz olsa da, durum dünyanın geri kalanında çok daha kötü. Ve bu çok gerçek zararlara yol açabilir ve açmaktadır.

Kurul, hangi hesapların ESR korumaları için uygun olması gerektiğine dair çok daha güçlü kriterler geliştirilmesi, bu kriterlerin halka açık hale getirilmesi ve bireylerin programa proaktif olarak başvurmalarına izin verilmesi çağrısında bulunuyor. Facebook'un dahil olan herkesin önce topluluk standartlarını gözden geçirmesini ve onlara uymayı kabul etmesini istemesi gerektiğini söylüyor. Ayrıca, Facebook'un bu standartlardaki değişiklikleri proaktif olarak iletmesi gerektiğini, böylece kullanıcıların bunlara nasıl uyacaklarını bilmeleri gerektiğini söylüyor.

Bir hesap programa kabul edildikten sonra, yönetim kurulu hesabın durumunun kullanıcılara görsel olarak iletilmesi gerektiğini söylüyor. Bu şekilde, bir devlet görevlisinin veya ünlünün zararlı bir gönderisinin 222 gün boyunca kaldığını görürseniz, neden henüz kaldırılmadığına dair bir fikriniz olur. Ve böyle bir hesaptaki bir gönderiyi şikayet ederseniz, yönetim kurulu, şikayet ettiğiniz hesabın özel korumalara sahip olduğunun size söylenmesi gerektiğini söylüyor.

Bunlar gerçekten iyi fikirler!

Çapraz kontrolün diğer yarısı olan GSR'ye (hangi hesabın gönderdiğine bakmaksızın ikincil gözden geçirme için olası hataları artırmaya çalışır) gelince, yönetim kurulu, Facebook'un bu gönderileri yalnızca huni haline getirmek yerine gerçekten incelemesini sağlamak için daha fazla kapasite geliştirmesini tavsiye ediyor. pratikte genellikle göz ardı edilen bir sıra. Bu, Facebook'un finansman kaynaklarını değiştirmesi için doğrudan bir talep ve bunun yönetim kurulu için bir ilk olduğundan oldukça eminim.

Şirket nasıl yanıt verecek? Meta ile, kiminle konuştuğumu söyleyemeyeceğim veya doğrudan alıntı yapamayacağım temel kurallar üzerine konuştum. Çoğunlukla şirketin kendisine de brifing verilen görüşteki eleştiri ve tavsiyeler hakkında ne düşündüğünü öğrenmek istedim. Ancak şirket, görüş kamuoyuna açıklanana kadar hiçbir şey söylemek istemedi. Şirketin küresel ilişkilerden sorumlu başkan yardımcısı Nick Clegg'den yapılan açıklamada, şirketin programda halihazırda yaptığı değişiklikleri özetledive yalnızca 90 gün içinde daha fazlasını paylaşacağını söyledi .

Geçen yıl, sadece çapraz kontrolün varlığı bazı gözlemcileri bir öfke olarak etkiledi. Ancak yönetim kuruluna göre, ikincil inceleme fikri, büyük ölçekli bir sosyal ağ için pratik bir gereklilik haline geldi.

Aynı zamanda, çapraz kontrolde görülmesi çirkin olan pek çok şey var. Yönetim kurulunun şeffaflık, denetim ve sistem tasarımına daha fazla odaklanma konusundaki tavsiyeleri, içerik denetimini daha adil hale getirme konusunda uzun bir yol kat edecektir.

Tabii ki, bazı eyaletlerin neredeyse her türden içerik denetiminin yasa dışı olması gerektiğine karar veren yasalar çıkardığı bir dünyada bunlar önemsiz endişeler gibi görünebilir. Ancak platformlar hala kötü gönderileri kaldırma hakkına sahip olduğu ve bunu yaparken sık sık hata yaptığı sürece, geri kalanımız Facebook'ta ve diğer her yerde şu anda aldığımızdan daha iyisini hak ediyoruz.

Şirketin yönetim kurulunun tavsiyelerini ciddiye almasını ve bunun hayal kırıklığı yaratacak kadar az tedarikte kaldığı bir platforma daha fazla eşitlik getirmesini umuyoruz.