TikTok’un timsahları göründüğü gibi değil.
Görüntü hizmetine dağılmış, kasırgayla dolu evlere photoshoplanmış, çita-pitbull melezlerine karışmış veya Tom Cruise’un dijital olarak tasarlanmış bir avatarıyla bir güreş karşılaşmasını bekleyen gönderilerde görünüyorlar.
Ve TikTok’taki manipüle edilmiş medyanın çoğu gibi zararsızdırlar ve amansız bir içerik akışına geri dönmeden önce birkaç kahkaha ve beğeniyi garanti ederler. Ancak bunların varlığı, yanlış bilgi üzerine çalışan insanları endişelendiriyor çünkü aynı teknikler, ara seçimler öncesinde siyasi bölünme eken, komplo teorileri geliştiren ve demokrasinin temel ilkelerini tehdit eden gönderilere de uygulanıyor.
Manipüle edilmiş ve sentetik medya uzmanı Henry Ajder, “Bu tür bir manipülasyon sadece daha yaygın hale geliyor” dedi. “Bu kadar çok miktarda içerik bu kadar hızlı ve bu ölçekte oluşturulabildiğinde manzarayı tamamen değiştiriyor.”
Düzenlenmiş veya sentezlenmiş materyaller, aylık yaklaşık üç milyar aktif kullanıcısı olan Facebook gibi diğer çevrimiçi platformlarda da görünür. Ancak uzmanlar, tahmini 1,6 milyar aktif kullanıcısını başka birinin içeriğine kendi damgasını vurmaya teşvik eden ve hızlı hareket eden ve ara sıra canlı yayınlanan görüntüde gerçeklik, hiciv ve düpedüz aldatmacanın bazen birbirine karıştığı TikTok’u yakalamanın özellikle zor olduğunu söyledi. beslemek.
Potansiyel olarak zararlı, manipüle edilmiş medyanın yayılmasını ölçmek zordur, ancak araştırmacılar, bunlara olanak tanıyan teknolojiler daha geniş çapta erişilebilir hale geldikçe daha fazla örneğin ortaya çıktığını gördüklerini söylüyorlar. Uzmanlar, zamanla manipülasyonların daha yaygın hale geleceğinden ve tespit edilmesinin zor olacağından korktuklarını söylüyor.
Son haftalarda TikTok kullanıcıları, iklim değişikliğinin mevsimsel olduğunu iddia eden, var olmayan bir CNN haberinin sahte bir ekran görüntüsünü paylaştı. Bir görüntü, Beyaz Saray basın sekreteri Karine Jean-Pierre’in Fox News muhabiri Peter Doocy’nin bir sorusunu görmezden geldiğini ima edecek şekilde düzenlendi. 2021’den başka bir görüntü, bu sonbaharda ses değiştirilerek yeniden ortaya çıktı, öyle ki Başkan Yardımcısı Kamala Harris, neredeyse Covid-19 ile hastaneye kaldırılan tüm insanların aşılandığını söylüyor gibiydi. (“Aşısız” demişti.)
TikTok kullanıcıları, geçen ay Başkan Biden’ı milli marş yerine “Baby Shark” şarkısını söylerken tasvir eden veya Beyaz Saray’da bir çocuğun First Lady Jill Biden’a küfür savurduğunu ima eden en saçma değiştirilmiş gönderileri bile benimsedi.
Ancak, manipüle edilmiş medyanın tehlikesi, herhangi bir gönderiden daha fazla, birçok sosyal medya kullanıcısının gerçek ve kanıt gibi kavramlara güvenme becerisine daha fazla zarar verme riskinde yatmaktadır. Genellikle bir başkasının vücuduna dijital bir yüz aşılanarak oluşturulan derin sahtekarlıkların varlığı, gerçeği gözden düşürmeyi ve sorumluluktan kaçmayı uman kişiler tarafından bir suçlama ve mazeret olarak kullanılıyor – bu fenomen yalancının temettüsüdür.
Komplo teorisyenleri, TikTok’ta Bay Biden’ın resmi Beyaz Saray videolarını yayınladılar ve onun bir deepfake olduğuna dair çürütülmüş teoriler sundular. Siyasi danışman Roger Stone, Eylül ayında Telegram’da, CNN’in yayınladığı ve 2020 seçimleri öncesinde şiddet çağrısı yaptığını gösteren görüntülerin “sahte deepfake videolar” olduğunu iddia etti. 2021’de ABD Kongre Binası’nda 6 Ocak’ta meydana gelen isyanda suçlanan en az bir kişinin avukatları, “yaygın olarak mevcut ve sinsi” derin sahte yapım teknolojisine atıfta bulunarak o günkü görüntü kanıtlarına şüphe düşürmeye çalıştı.
Yanlış Bilgilerin ve Yanlışların Yayılması
- Seçim Dolandırıcılığı İddiaları:Yeni bir rapor, büyük sosyal medya şirketlerinin, ara seçimler öncesinde yanlış bilgilendirmeyle mücadele sözü vermesine rağmen, seçim sahtekarlığıyla ilgili asılsız komploları körüklemeye devam ettiğini söylüyor.
- Rus yalanları :Batı’yı “gıda tedarikini kesintiye uğratmakla” suçlayan Kremlin komplo teorileri, ABD’deki sağcı sohbet odalarına ve ana akım muhafazakar haber medyasına sızdı.
- Medya Okuryazarlığı Çabaları:Gençler internette daha fazla zaman geçirdikçe, eğitimciler giderek artan bir şekilde öğrencilere kendilerini yanlış anlatılardan korumaları için araçlar ve stratejiler sunmaya çalışıyor.
- Küresel Tehdit:Yeni araştırma, gelişmiş ekonomilere sahip 19 ülkede yanıt verenlerin yaklaşık dörtte üçünün çevrimiçi yanlış bilgiler konusunda çok endişeli olduğunu gösteriyor.
Berkeley’deki California Üniversitesi’nde bilgisayar bilimi profesörü olan ve TikTok’un içerik danışmanlığında oturan Hany Farid, “Her şeyin manipüle edildiği veya manipüle edilebildiği bu tür bir dünyaya girdiğimizde, uygunsuz gerçekleri basitçe göz ardı edebiliriz” dedi. Konsey.
Teknoloji şirketleri, derin sahtekarlıklar gibi manipülasyonları tespit etmek için yeni araçları denemek için yıllarını harcadılar. 2020 seçim sezonunda TikTok, Facebook, Twitter ve YouTube, manipüle edilmiş zararlı içeriği kaldırma veya etiketleme sözü verdi.
2019 Kaliforniya yasası, kısmen o yıl Konuşmacı Nancy Pelosi’nin sarhoş görünmesi için çarpıtılan videolardan esinlenerek, bir seçimden sonraki 60 gün içinde politikacıların aldatıcı deepfake’lerini oluşturmayı veya paylaşmayı yasakladı.
TikTok yaptığı açıklamada, The New York Times tarafından tespit edilen ve “olayların gerçekliğini çarpıtarak kullanıcıları yanıltan ve görüntünün konusuna, diğer kişilere önemli zararlar veren” dijital sahteciliği yasaklayan politikalarını ihlal ettiği tespit edilen videoları kaldırdığını söyledi. ya da toplum.”
TikTok sözcüsü Ben Rathe, “TikTok özgün ve eğlenceli içerikler için bir yerdir, bu nedenle topluluğumuzu yanıltmak için tasarlanmış sentetik veya manipüle edilmiş medya dahil olmak üzere zararlı yanlış bilgileri yasaklıyor ve kaldırıyoruz” dedi.
Ancak yanlış bilgilendirme uzmanları, bireysel örneklerin ılımlı olduğunu ve neredeyse konunun dışında olduğunu söyledi. Manipüle edilmiş medyaya uzun süre maruz kalmak, kutuplaşmayı yoğunlaştırabilir ve izleyicilerin gerçeği kurgudan ayırma yeteneğini ve isteğini azaltabilir.
Ara sınavlar öncesinde platformda yanlış bilgilendirme sorun haline geldi. Son günlerde, kurumsal bir sorumluluk savunuculuğu grubu olan SumOfUs’tan araştırmacılar, bir hesap oluşturarak ve geniş çapta izlenen ve seçim sistemi hakkında şüphe uyandıran 20 videoyu arayarak ve izleyerek TikTok’un algoritmasını test etti. Araştırmacılar, bir saat içinde, algoritmanın tarafsız içerik sunmaktan daha fazla seçim dezenformasyonu, kutuplaştırıcı içerik, aşırı sağ aşırılık, QAnon komplo teorileri ve yanlış Covid-19 anlatıları sunmaya geçtiğini buldu.
TikTok, raporda alıntılanan ve yönergelerini ihlal eden içeriği kaldırdığını ve videoları bulmak için kullanılan arama terimlerini yakalamak için sistemini güncelleyeceğini söyledi.
Halsey Burgund, “Özellikle TikTok gibi platformlar, ama aslında tüm bu sosyal medya beslemeleri, sizi olayların içinden hızlı bir şekilde geçirmenizi sağlamakla ilgilidir – bu içerik yangın hortumu yağmuruna tutulacak şekilde tasarlandılar ve bu, nüansı ortadan kaldırmak için bir reçete,” dedi. MIT Open Documentary Lab’de ikamet eden yaratıcı bir teknoloji uzmanı. “Bu hızlı, hızlı, hızlı duygusal tepkilerin izleri beynimizin içinde birikiyor ve birikiyor ve bu biraz ürkütücü.”
2019’da Bay Burgund, multimedya sanatçısı ve gazeteci Francesca Panetta ile 1969 Apollo 11 görevinin başarısızlığını duyuran derin sahte bir Richard Nixon tasarlayan bir belgesel projesinde çalıştı. (Asıl sefer, ilk insanları aya indirdi.) “Ay Felaketi Durumunda” projesi geçen yıl Emmy kazandı.
Ekip, fotoğrafların yanlış yazılması, görüntülerin kesilmesi veya hızının veya sırasının değiştirilmesi, görüntülerden sesin ayrılması, seslerin klonlanması, sahte metin mesajları oluşturulması, sentetik hesaplar oluşturulması, dudak senkronizasyonunun otomatikleştirilmesi gibi yanlış bilgilerin çevrimiçi yayılmasında giderek yaygınlaşan yöntemler kullandı. ve metinden konuşmaya, hatta derin bir sahtekarlık yapmak.
Şu anda sosyal medyada yer alan manipüle edilmiş içerik örneklerinin çoğu kalitesiz ve açıkça uydurma. Ancak uzmanlar, çok daha incelikle değiştirebilen ve sentezleyebilen teknolojilerin giderek daha fazla erişilebilir olduğunu ve genellikle kolayca öğrenilebildiğini söylüyor.
Bay Burgund, “Doğru ellerde, oldukça yaratıcı ve orada çok fazla potansiyel var” dedi. “Yanlış ellerde, her şey kötü.”
Geçen ay, Philadelphia Eagles’ın kendi sahasında Beyaz Saray kanser girişimlerini tanıtan Bayan Biden’ın manipüle edilmiş görüntülerini içeren birkaç TikTok gönderisinin her biri on binlerce kez görüntülendi. First Lady’nin kanser hastaları ve hayatta kalanlarla birlikte şarkı söylediği görüntülerde, kalabalıktan gelen sesin yerini yüksek sesli yuhalama ve yuhalama aldı.
Eski Başkan Donald J. Trump, TikTok ve diğer platformlarda popüler bir parodi konusudur. Kullanıcılara ekstra ses ekleme veya diğer kullanıcılarla “düet” yapma ve içeriklerinde “dikiş” yapma araçları sunan TikTok’ta, Harry Potter ile sohbet ederken veya Marilyn Monroe rolünde Bay Trump’ın taklitleri ortaya çıktı.
Bay Burgund’un takım arkadaşı Bayan Panetta, “TikTok, kelimenin tam anlamıyla medyanın bir araya getirilebilmesi için tasarlandı – bu, manipülasyon ve yeniden karıştırma için tasarlanmış eksiksiz bir platform,” dedi. “Böyle bir platformda doğruluk kontrolü nasıl görünüyor?”
Birçok TikTok kullanıcısı, filtreler ve düzenlemelerle deney yaptıklarını ifşa etmek için etiketler ve hashtag’ler kullanır. Bazen, manipüle edilmiş medya yorumlar bölümünde çağrılır. Ancak bu tür çabalar, TikTok hızlı kaydırmada genellikle göz ardı edilir.
Geçen yıl, Federal Soruşturma Bürosu, bu sonbahara kadar “kötü niyetli aktörlerin siber ve yabancı etki operasyonları için sentetik içeriği neredeyse kesinlikle kullanacağı” konusunda uyardı. Medya manipülasyonu, bu yıl Rusya’nın Ukrayna’yı işgalinde ve Brezilya cumhurbaşkanlığı seçimlerinde zaten silah haline getirildi.
“Her bir içerik parçasıyla Whac-a-Mole oynamamalıyız, çünkü kaybedilen bir oyun oynuyormuşuz gibi hissettiriyor ve verilecek çok daha büyük savaşlar var” dedi. Brown Üniversitesi’nde Bilgi Vadeli İşlemler Laboratuvarı. “Fakat bu şeyler gerçekten tehlikeli, her ne kadar bir doğruluk denetleyicisi veya geriye doğru görsel arama bunu iki saniye içinde çürütecekmiş gibi gelse de. Temel olarak, dünya görüşünüzü güçlendiren bu sürekli damla damla malzemeyi besliyor.