Gözlemevi İnternet ve Toplum Araştırmaları Merkezi
Teknoloji'nin bizi bir labirente sürüklediği bu dönemde, gerçekle yalan arasındaki çizgi gittikçe belirsizleşiyor. Kurgusal bir dünyada yaşadığımızı kanıtlar gibi görünen "deepfake"ler, yalnızca teknik bir mesele değil, aynı zamanda bireyin kendine olan inancını ve toplumun gerçeklik algısını sarsan bir güç. Fakat korkuya kapılmaktansa, teknoloji firmaları ve düzenleyici otoriteler etkili ve proaktif önlemler almalı. Gelin, gerçeklik algısının korunması ve toplumun bu yeni tehditle nasıl başa çıkabileceği üzerine beraber düşünelim.
Türkiye'nin dinamik gündeminde pek çok konuya gereken özeni gösteremiyoruz. Geçtiğimiz seçim döneminde, gündeme düşen her konu hızla tüketildi ve hafızalardan silindi. Bu tüketim ve unutkanlık sarmalının içinde gözden kaçan önemli konulardan biri de "deepfake" idi.
CHP lideri Kemal Kılıçdaroğlu, Twitter paylaşımında deepfakelerinin üretildiğini iddia etti; fakat bu içerikler gün yüzüne çıkmadı. Daha sonra konu rafa kaldırıldı ve üstü tozlandı. Ancak deepfake yalnızca seçim dönemlerinde değil, her an insanların itibarını, ilişkilerini ve mahremiyetini tehlikeye atabilir. Bu nedenle deepfake meselesi gündemin hızlı akışında kaybolmamalı.
Öncelikle deepfake’in ne olduğunu anlamakta yarar var. Yapay zeka teknolojisinin bir uygulaması olan deepfake, sahte görsel ve işitsel içerikler oluşturmak için kullanılıyor. Fakat teknolojinin geldiği noktada deepfake’ler sahte ve gerçek arasındaki çizgiyi bulanıklaştırdı.
Bu mesele yüzeyde hukuki ve teknik bir labirent gibi görünse de, daha derin bir boyuta sahip. Deepfakeler, öylesine güçlü ve ikna edici ki, zaman zaman bireyin kendini dahi sorgulamasına yol açıyorlar. Bu durum, psikolojik ve toplumsal travmalara sebep olabileceği gibi, gerçekliğe olan inancımızın temeline dinamit de koyabilir. Ancak, bu karanlık tablo karşısında umutsuzluğa kapılmayalım; çünkü bu sorunları çözme ve engelleme potansiyeli, insanlık adına bizlere ait.
Toplumsal Yaşama Yapay Müdahale: Rızasız İçerik Üretimi
Deepfake uzun süre sadece ünlülere uygulanan bir eğlence fenomeninden ibaretti. ABD İç Güvenlik Bakanlığı’nın “Deepfake Kimliklerin Artan Tehditleri” adlı raporunda Barack Obama, David Beckham, Kraliçe II. Elizabeth ve Mark Zuckerberg gibi yüksek profilli kişilerin deepfake’inden bahsediliyor. Raporda yer alan örnekler incelendiğinde deepfake’in eğlence olarak pazarlanan tarafının öne çıktığı açıkça görülüyor. Ancak günümüzde hepimiz deepfake’lerin bir de karanlık boyutu olduğunun farkındayız: Rıza almadan oluşturulan içerikler. Scarlett Johansson ve Emma Watson gibi ünlü kadınların deepfake yetişkin içerikleri, Reddit’te yer alan “deepfakes” başlığı ve, en yakın zamanlı örnek olarak, kadın yayıncıların hedef alındığı Twitch skandalı; deepfake’in etkilerini gözler önüne serdi. Bu örnekler, herkesin deepfake’in birer hedefi haline gelebileceğini gösterirken, aynı zamanda bireysel mahremiyetin korunmasının önemine işaret ediyor.
Özellikle, kadın yayıncıları hedef alan son Twitch skandalı, deepfake teknolojilerinin giderek daha geniş bir kitleyi etkilemeye başladığının bir ispatı. Bu skandal, Brandon “Atrioc” Ewing adlı Twitch yayıncısının, yayın esnasında açık olan sekmelerinin görülmesiyle ortaya çıktı. Yayını izleyenler, sekmelerden birinde kadın Twitch yayıncılarını hedef alan bir porno kategorisi olduğunu fark etti. Bu olayın ardından sözkonusu yayın ve deepfake içeriklerin bulunduğu site Twitter’da yayıldı. Sonuç olarak, birçok kadın Twitch yayıncısının deepfake videolarının bu siteye yüklendiği gün yüzüne çıktı.
Bu videoların mağduru olan yayıncılardan QTCinderella bir yayınında "Bu şeyi kaldırmak için para ödemek zorunda olmak işimin bir parçası olmamalı." diyerek, hukuki yollara başvuracağını söyledi. Ancak, hukuk sistemleri bu tarz içeriklerin dolaşımdan kaldırılması konusunda çok da etkili değil. Görüntüyü üreten kişi bu içeriği kaldırsa dahi, internetteki paylaşım hızından dolayı görüntüleri tamamen silmek asla mümkün olmayabilir.
Deepfake’i yapılan kişiler bu içeriklerin üretimi, dağıtımı ve kontrolü sürecinde herhangi bir rıza göstermiyor ve içerik üreticisi de bu rızayı aramıyor. Bu hak ihlalinin, kişiye karşı bir saldırı olduğunu söylemek mümkün: bu içerikler kişinin duygusal ve psikolojik sıkıntılar yaşamasına, itibarının zedelenmesine ve aşağılanmasına yol açıyor.
Deepfake içeriklerin etkileri hedeflenen bireyin ötesine geçiyor ve içeriğe ulaşan her yeni insanla dalga gibi büyüyor. Dolayısıyla deepfakeler, toplumun gerçeklik algısına ağır bir darbe vuruyor. Gerçek ile sahteyi ayırmanın mümkün olmadığı bir toplumda, insanlar güven problemi yaşar, meşru kaynaklara duyulan güven zedelenir ve dezenformasyon yayılır. Böyle bir durumda, toplumsal ilişkilerin köklerini sarsacak bir güven erozyonu ufukta belirir.
Deepfake'in bir öznesi olarak toplumu ele almak önemli bir perspektif. Bilindiği gibi bu teknoloji, yayılan yanlış bilgiler ve manipüle edilmiş içerikler aracılığıyla toplumu etkiliyor. Bunun bir örneğini de yakın zamanda gördük. Gözlemevi olarak “Seçimlerin Gizli Kadercisi: Türkiye'de Siyasi Mikro Hedefleme Kampanyalarının Yolculuğu” makalemizde anlattığımız gibi deepfake içerikler, seçim süreçlerinde seçmen iradesini manipüle etmek ve kamusal kargaşa yaratmak amacıyla kullanılabilir. Gerçekliğin çarpıtıldığı içeriklerle demokratik süreçler sekteye uğratılabilir. Toplum için faydalı olan, bu süreçlerin doğru işlemesidir. Deepfake’in bireye, topluma ve demokrasilere zararı, henüz önleyici mekanizmaların işlemediğini gösteriyor.
Tabii ki, problem sadece teknoloji firmalarının sorumsuz politikalarıyla sınırlı değil. Cinsiyete dayalı sömürü kültürü de, rızasız deepfakelerin yaygınlaşmasına ve normalleşmesine katkıda bulunuyor. Deepfake teknolojisi, genellikle kişisel rıza ve mahremiyet sınırlarını aşarak, etik dışı bir biçimde kullanılıyor. Bu çarpık kullanımın merkezine ise genellikle kadınlar yerleştiriliyor. Sonuç olarak deepfake, cinsiyet temelli sömürüyü teşvik eden ve kadını nesneleştiren, kadına yönelik şiddeti destekleyerek toplumsal cinsiyet eşitsizliğini daha da derinleştiren bir araç.
Deepfake içeriklerin yaygınlaşması, toplumda bir yanılgıyı besliyor: Teknolojinin kötü amaçlar için kullanılmasının kabul edilebilir olduğu fikri. Fakat bu yanılgı, teknoloji kötüye kullanıldığında ve baskı, taciz ve zorbalığın egemen olduğu bir otokratik platformda ciddi bir tehdide dönüşebilir. Eğer dijital dünyada deepfake kontrolü otokratik bir gücün eline geçerse, toplumlar hem özgürlüklerini hem de güvenliklerini kaybetme tehlikesi ile karşı karşıya kalabilir.
Bu tehdit ortamında, büyük teknoloji şirketlerinin bu konuda çözüm üretmekte yetersiz kalması, önceliklerinin ne olduğuna dair önemli bir ipucu veriyor. Bu durumda unutmamamız gereken anahtar nokta, teknolojinin insanlık için bir tehdit değil, bir fayda olması gerektiği. Dolayısıyla, hem teknoloji firmalarının hem de düzenleyici otoritelerin, bu tür teknolojik tehditlerle başa çıkmak için proaktif ve etkili önlemler alması hayati bir zorunluluk.
