Sene 2018. Ofisteyim ve ırkçılık üzerine çalışıyorum. Önüme bir liste önüme düşüyor: “Türk” kelimesi, küfür listesine alınmış. Konunun üzerine gidiyorum. Ekip arkadaşımla görüştüğümde şu ortaya çıkıyor: Beyaz üstünlüğüne inanan ırkçıların toplandığı ingilizce online forumlarda ve gruplarda, Türk kelimesi bir küfür olarak kullanılıyormuş. “Şu Türk’e bak!” gibi ırkçılık ve nefret söylemi içeren söylemler tespit edilmiş. Böylece Türk kelimesi de engellenilmesi gereken, kırmızı alarm verecek hakaretler listesine alınmış. Yani aslında bu senaryoya, Türk etnik kimliğine hakareti engelleme amaçlı yapılan bir işin sonucunda ulaşılmış.

Irkçı hakaret listesinde Türk kelimesinin olması ve bu listenin bağlam içermemesi başka sorunlar da doğurabilir. Bu listenin başka sistemlerle entegre edildiğini düşünelim... ırkçı hakaretlerin görünürlüğünün azaltılması için bu listeyi bir yapay zeka modelin beslemek için kullanırsak, kaza ile Türk kelimesinin geçtiği içerikler de baskılanacak.

Bir başka örnek, “16 yaşındayım ve cinsel problemler yaşıyorum.” araması. Bu arama sonucunda Google'ın cinsel sağlık bilgisi vermesi çocukları tehlikeye sokar mı? Yoksa çocukların cinsel sağlık bilgisine erişim hakkı olmalı mıdır? Ya da, emziren bir kadın görüntüsü erotik içerik olarak mı değerlendirilmelidir? 

İçerik moderasyonu sanıldığı kadar kolay değil.

Peki “ırkçılığı engelleme” kararı Google'ın gündemine nasıl giriyor? Rastgele, bir çalışanın insiyatifi ile değil. İçerik moderasyonu için süreçler oluşturuyoruz. Önce politikalar üretiliyor, ardından bu politikaların uygulanması için algoritmalar geliştiriyoruz. Bunun için endüstride “Trust & Safety” dediğimiz “Güven ve Güvenlik” ekiplerinde yüzlerce kişi istihdam ediliyor.

Şunu asla unutmamalıyız: Big-tech’in elinde dünyanın en yetenekli mühendislerini işe alacak ekonomik kaynak ve bu mühendislerin işlemesi için elinde tuttuğu milyarlarca veri var. Eğer ki bir firma 180.000 kişiyi işe alabiliyorsa, çok rahat bir şekilde toplumda yarattığı zararları durduracak mekanizmaları da geliştirebilir.

Pozisyon 1: Teknoloji firmaları ve platformlar, dezenformasyon ve nefret söylemi ve ayrımcılığı engelleyecek mekanizmalar geliştirmelidir.

Burada teknolojinin yol açtığı toplumsal problemlerin bireysel insiyatifler değil, kurumsal sorumlulukla çözüleceğinin altını çizmek lazım. Vatandaşlar birer dedektife dönüşmek zorunda değil, zaten ilköğretim mezununun 25% olduğu bir toplumda bu mümkün de değil. Eğitimin maliyetinin yüksek olduğu, eşitsizliklerle dolu bir toplumda yaşıyoruz. "Kaynak araştırma" gibi yüksek okuryazarlık isteyen araçları bireylere sunabiliriz, ancak bu araçlardan sadece elit bir kesim faydalanabilecektir.

Küresel ısınma, çevre kirliliği gibi konularda vatandaşlara sorumluluk yüklenmesinin, firmaların sorumluluktan kaçmak için savunduğu bir pozisyon olduğunu biliyorsak, konu dezenformasyonda da öyle. Firmaların alacağı sorumluluklar bireysel insiyatiflerden çok daha etkili olacaktır.

Peki teknoloji firmalarının sorumluluklarını bir kenara bırakalım: Platformlar devlete hesap vermeli midir?

Pozisyon 2: Aslında içerik moderasyonu konusunda devletlerin teknoloji firmalarından beklentilerinin olması gerekli.

Tabii burada ne yasadışıdır, ne değildir konusunda bir toplumsal uzlaşma olduğunu, vatandaşın çıkarının önceliklendirildiğini, adaleti varsayıyoruz. 

Devlet ne beklemelidir? İçerik moderasyonu konusunda Avrupa’nın yeni düzenlemesine bakalım: DSA (Digital Services Act) diyor ki, platformlar çocuğun istismarı ve terörizmle ilgili yasadışı içerikleri 1 saat içinde kaldırmalı. Teknoloji firmaları, genelde yarattığı toplumsal meselelerden kaçmaya meğilli, ve onların vatandaşın çıkarını düşünmekle sorumlu yapıların bu konuda yaptırımlar uygulaması gerekli.

Bu gerçek hayatta bu şu anlama geliyor: Firmalar organizasyonel yapılarını kapsamlı ve çok boyutlu bir şekilde geliştirmeli. Ekşi Sözlük, ciddi bir kurumsal yatırım yapmalı ve bünyesinde bir “Güven ve Güvenlik” departmanı kurmalı.

- İçerik moderasyonunun rastgele değil, prensiplere göre belirlenmesi için politikalar geliştirilmeli. 

Bu ekipte, politika geliştirmekten ayrı olarak, 24 saati kapsayacak şekilde 3 vardiya halinde çalışan ekipler olmalı, yani sadece içeriğin kontrolü için en az 4 kişinin tam zamanlı istihdam edilmeli. 

Hangi içeriğin problem yaratabileceğine dair hızlı hareket edebilmek için Sözlük’ün gündem bölümünü filtreleyen bir algoritma geliştirilmeli. Bu algoritma, sözlük içeriklerini bazı değişkenlere göre inceleyebilir: etkileşim hızı, nefret söylemi gibi insan hakkı ihlallerine yol açan kelimeleri içerip içermediği.. gibi

Afet dönemi, seçimler gibi kritik dönemlerde özel değerlendirmeler yapılmalı ve çalışanlar zamanlarının daha büyük kısmının içerik moderasyonuna ayırmalı. 

Peki Ekşi Sözlük’ün böyle bir sorululuğu olmalı mıdır? AB kullanıcı sayısını değerlendirme kriteri olarak belirlemiş: Avrupa Birliği’nin Dijital Hizmetler Kanunu'ndaki en kapsamlı kurallar, AB en az 45 milyon kullanıcıya (nüfusun %10'unu temsil eden) sahip, önemli bir toplumsal ve ekonomik etkiye sahip çok büyük çevrimiçi platformlara odaklanıyor. 

Pozisyon 3: Ekşi Sözlük bu kapsama girmeli midir? Bizce evet.

Ekşi Sözlük bir sosyal medya platformu değil, ancak site trafiğine bakarak toplumun 10%’undan fazlasının buradaki içerikten faydalandığını söyleyebiliriz. Yüksek trafiğinden kaynaklı elde ettiği reklam geliri de Sözlük’ün gerekli istihdamı sağlamasını sağlayacaktır.

Ekşi Sözlük geçtiğimiz hafta başlık açma ve gündem algoritmasına yönelik bir takım güncellemelerini duyurdu, ancak yaptığı geliştirmeler daha çok yeni kişilerin etkisini azaltmaya yönelik, ve standart içerik moderasyonu prensipleri içermiyor. Bunun yerine “hukuka aykırılık”tan bahsedilmiş. Bu durum demokrasimiz için tehlikeli olabilir, lakin her insan hakkı ihlali, her ayrımcı söylem “hukuka aykırı” olarak değerlendirilmiyor. Bu kararda Sevgili Ekşi Sözlük CEO’su Başak Purut’un avukat olmasının etkisi olduğunu düşünüyorum. (Kendisine de uzmanlık alanım olan ‘teknoloji firmalarında içerik moderasyonu süreçleri’ konusunda her türlü bilgi aktarımı yapabileceğimi de burada belirteyim.)