Tarafından desteklenen
Ana hikayeyi okumaya devam edin
‘Görünmez Bir Kafes’: Çin Geleceği Nasıl Yönetiyor?
-
Herhangi bir arkadaşınıza bir hikaye gönderin
Abone olarak, sahip olduğunuz 10 hediye makalesi her ay vermek. Paylaştıklarınızı herkes okuyabilir.
Bu makaleyi ver - Uygulamada oku
İle Paul Mozur, Muyi Xiaove John Liu
Çin’de yaşayan 1,4 milyardan fazla insan sürekli izleniyor. Her yerde, sokak köşelerinde ve metro tavanlarında, otel lobilerinde ve apartmanlarda polis kameraları tarafından kaydediliyorlar. Telefonları takip ediliyor, alışverişleri izleniyor ve çevrim içi sohbetleri sansürleniyor.
Artık gelecekleri bile gözetim altında.
En yeni nesil teknoloji, suçları veya protestoları gerçekleşmeden önce tahmin etme sözü vererek, kalıpları ve sapmaları bulmak için günlük aktivitelerinde toplanan çok miktarda veriyi araştırır. Çin hükümetinin gözünde potansiyel sorun çıkaranları hedef alıyorlar – sadece suç geçmişi olanları değil, etnik azınlıklar, göçmen işçiler ve akıl hastalığı geçmişi olanlar da dahil olmak üzere savunmasız grupları da hedef alıyorlar.
Bir dolandırıcılık kurbanı hükümetten ödeme talebinde bulunmak için Pekin’e gitmeye çalışırsa veya bir uyuşturucu kullanıcısı aynı numarayı çok fazla ararsa polisi uyarabilirler. Akıl hastalığı geçmişi olan bir kişi okula her yaklaştığında görevlilere sinyal verebilirler.
Dijital trip tellerinden kaçınmak için kapsamlı kaçınma manevraları gerekir. Geçmişte, yetişkin hayatının çoğu için hükümete dilekçe veren 74 yaşındaki bir adam olan Zhang Yuqiao, yetkilileri atlatmak için ana yollardan uzak durabilir ve tazminat için savaşmak üzere Pekin’e gidebilirdi. Kültür Devrimi sırasında anne ve babasına yapılan işkence. Şimdi telefonlarını kapatıyor, nakit ödeme yapıyor ve yanlış yerlere birden fazla tren bileti alıyor.
Büyük ölçüde kanıtlanmamış olsa da, The New York Times tarafından incelenen satın alma ve diğer belgelerde ayrıntıları verilen yeni Çin teknolojileri, sosyal ve politik kontrollerin sınırlarını daha da genişletiyor ve onları insanların yaşamlarına daha da derinden entegre ediyor. En temelde, boğucu gözetimi haklı çıkarırlar ve mahremiyeti ihlal ederler, aşırı uçta ise sistemik ayrımcılığı ve siyasi baskıyı otomatikleştirme riskini taşırlar.
Nisan ayında Heilongjiang Eyaleti, Mudanjiang’daki bir yerleşim birimine gözetleme kameraları kuruldu. Kredi… China Daily/Via Reuters
Hükümet için sosyal istikrar her şeyden önemlidir ve ona yönelik herhangi bir tehdit ortadan kaldırılmalıdır. Çin’in en üst düzey lideri olarak geçirdiği on yıl boyunca, Xi Jinping, Xinjiang’ın batı bölgesindeki etnik huzursuzluğu bastırmak ve dünyanın en şiddetli koronavirüs karantinalarından bazılarını uygulamak için tekno-otoriter politikaları serbest bırakarak güvenlik devletini sertleştirdi ve merkezileştirdi. Her zaman sınırlı olan muhalefet alanı hızla yok oluyor.
Bay Xi, 2019’da bir ulusal kamu güvenliği çalışma toplantısında, “Big veri, kamu güvenliği çalışmalarının yenilikçi gelişimini güçlendirmek için bir motor ve savaş yeteneklerini beslemek için yeni bir büyüme noktası olarak kullanılmalıdır.” Dedi.
Diğer ülkelerde tartışmalı olduğunu kanıtlayacak algoritmalar, genellikle zafer olarak borazan edilir.
Yerel polisin bildirdiğine göre, 2020’de güney Çin’deki yetkililer, yazılımın onları evliliğin şüpheli olduğu konusunda uyarmasının ardından bir kadının kocasıyla birlikte olmak için Hong Kong’a taşınma talebini reddetti. Ardından yapılan bir soruşturma, ikilinin genellikle aynı anda aynı yerde olmadıklarını ve Bahar Şenlik tatilini birlikte geçirmediklerini ortaya çıkardı. Polis, evliliğin bir göç izni almak için sahte olduğu sonucuna vardı.
Aynı yıl kuzey Çin’de, bir adamın farklı arkadaşlarıyla birlikte bir yerleşim birimine sık sık girmesiyle ilgili otomatik bir uyarı, polisi soruşturmaya sevk etti. Devlet medyasına göre, onun bir piramit düzeninin parçası olduğunu keşfettiler.
Ortaya çıkan bu güvenlik teknolojilerinin ayrıntıları, polis araştırma makalelerinde, gözetim yüklenicisi patentlerinde ve sunumlarında ve ayrıca The Times tarafından incelenen ve onaylanan yüzlerce kamu alım belgesinde açıklanmaktadır. Satın alma belgelerinin çoğu, Asya Topluluğu tarafından yayınlanan ve hükümet web sitelerinde yıllarca kayıtları sistematik olarak toplayan çevrimiçi bir dergi olan ChinaFile tarafından paylaşıldı. Dilekçe sahiplerinin komşu Pekin’e gitmesini engellemek için liman kenti Tianjin’deki yetkililer tarafından satın alınan yazılımı anlatan bir başka yazılım seti, bir gözetim endüstrisi yayını olan IPVM tarafından sağlandı.
Çin Kamu Güvenliği Bakanlığı, Pekin’deki genel merkezine ve ülke genelindeki altı yerel departmana fakslanan yorum taleplerine yanıt vermedi.
Gözetime yönelik yeni yaklaşım, kısmen ABD ve Avrupa’dan gelen veriye dayalı polislik yazılımlarına dayanıyor; hak gruplarının söylediğine göre teknoloji, ırkçılığı hangi mahallelerin en yoğun şekilde polise tabi tutulduğu ve hangi mahkumların şartlı tahliye edileceği gibi kararlara kodladı. Çin, polisin şeffaflık ve cezasızlıkla çalışmasına izin veren ülke çapında veri rezervuarlarından yararlanarak bunu en uç noktaya taşıyor.
100.000’den fazla hükümet ihale belgesinin bir New York Times analizi, Çin’in vatandaşlarından dijital ve biyolojik veri toplama tutkusunun önceden bilinenden daha yaygın ve istilacı olduğunu buldu.
Çoğu zaman insanlar izlendiklerini bilmiyorlar. Polis, teknolojinin etkinliği veya onların harekete geçirdiği eylemler konusunda çok az dış incelemeyle karşı karşıya. Çinli yetkililer, kişisel bilgileri toplamak için herhangi bir izin talep etmemektedir.
En uç noktada, sistemler çok yıllık bilimkurgu muammalarını gündeme getiriyor: Polis, gerçekleşmeden önce müdahale ederse, geleceğin doğru bir şekilde tahmin edildiğini bilmek nasıl mümkün olabilir?
Uzmanlar, yazılımın insan davranışını ortaya çıkarmada başarısız olsa bile, gözetimin kendisinin huzursuzluğu ve suçu engellediği için başarılı olarak kabul edilebileceğini söylüyor.
İnsan Hakları İzleme Örgütü’nden kıdemli bir Çin araştırmacısı olan Maya Wang, “Bu, topluma dayatılan görünmez bir teknoloji kafesi” dedi ve “bunun orantısız ağırlığı, Çin toplumunda zaten ciddi bir şekilde ayrımcılığa maruz kalan insan grupları tarafından hissediliyor.”
‘Saklanacak hiçbiryer’
2017’de Çin’in en tanınmış girişimcilerinden biri gelecek için cesur bir vizyona sahipti: suçları tahmin edebilen bir bilgisayar sistemi.
Bir yapay zeka girişimi olan Megvii’yi kuran girişimci Yin Qi, Çin devlet medyasına, gözetleme sisteminin polise suç için bir arama motoru verebileceğini, büyük miktarda görüntü görüntüsünü sezgi kalıplarına göre analiz edebileceğini ve yetkilileri şüpheli durumlar hakkında uyarabileceğini söyledi. davranış. Kameralar bir kişinin tren istasyonunda çok fazla zaman geçirdiğini tespit ederse, sistemin olası bir yankesici işaretleyebileceğini açıkladı.
Bay Yin, “Kameranın arkasında gerçekten izleyen insanlar olsaydı korkutucu olurdu, ancak bunun arkasında bir sistem var” dedi. “İnternette gezinmek için her gün kullandığımız arama motoru gibi – çok tarafsız. İyi niyetli bir şey olmalı.”
Böyle bir gözetleme ile “kötü adamların saklanacak hiçbir yeri yok” diye ekledi.
Beş yıl sonra vizyonu yavaş yavaş gerçeğe dönüşüyor. The Times tarafından gözden geçirilen dahili Megvii sunumları, start-up ürünlerinin polis için tam dijital dosyaları nasıl bir araya getirdiğini gösteriyor.
“Yüzleri, fotoğrafları, arabaları, vakaları ve olay kayıtlarını depolayan çok boyutlu bir veritabanı oluşturun”, “akıllı arama” adı verilen bir ürünün açıklamasını okur. Yazılım, “yasa dışı eylemleri beşikte boğmak” için “masum görünen sıradan insanları ortaya çıkarmak” için verileri analiz eder.
Bir Megvii sözcüsü, e-postayla gönderilen bir açıklamada, şirketin yapay zekanın sorumlu bir şekilde geliştirilmesine bağlı olduğunu ve hayatı daha güvenli ve kolay hale getirmekle ilgilendiğini ve “belirli bir grubu veya kişiyi izlemekle ilgili olmadığını” söyledi.
Megvii’nin “akıllı arama” ürünü için dahili bir sunum slaydı. Çubuk grafikler, izlenen kişi gruplarını kategoriye göre sıralar.
Benzer teknolojiler zaten kullanılmaya başlandı. 2022’de Tianjin’deki polis, protestoları tahmin etmeyi amaçlayan bir Megvii rakibi Hikvision tarafından yapılan yazılımı satın aldı. Sistem, Çin’de yerel yetkililer hakkında daha yüksek makamlara şikayette bulunmaya çalışan insanları tanımlayan genel bir terim olan Çinli dilekçe lejyonları hakkında veri toplar.
Ardından, dilekçe sahiplerini Pekin’e seyahat etme olasılıkları konusunda puanlıyor. Gelecekte, veri, bir tedarik belgesine göre makine öğrenimi modellerini eğitmek için kullanılacak.
Yerel yetkililer, siyasi mahcubiyetten veya yanlış bir davranışa maruz kalmaktan kaçınmak için bu tür gezileri engellemek istiyor. Ve merkezi hükümet, hoşnutsuz vatandaş gruplarının başkentte toplanmasını istemiyor.
Bir Hikvision temsilcisi sistem hakkında yorum yapmayı reddetti.
Bay Xi altında, dilekçeleri kontrol etmeye yönelik resmi çabalar giderek daha istilacı hale geldi. Yıllardır bir emlak dolandırıcılığı nedeniyle tazminat arayan bir grubun 32 yaşındaki üyesi Zekun Wang, yetkililerin 2017 yılında Şanghay’daki diğer dilekçe sahiplerini daha Pekin’e bilet alamadan durdurduklarını söyledi. Yetkililerin sosyal medya uygulaması WeChat’teki iletişimlerini izlediğinden şüpheleniyordu.
Yakınlardaki Pekin ve Hebei Eyaletindeki polisle işbirliği içinde yürütülen Tianjin’deki Hikvision sistemi daha karmaşık.
Platform, satın alma belgesine göre bireylerin sosyal ve aile ilişkilerine, geçmiş gezilerine ve kişisel durumlarına göre dilekçe verme olasılıklarını analiz ediyor. Polisin, “paranoyak”, “titiz” ve “hızlı” dahil olmak üzere protestocuların mizacını tanımlamak için memurlar için alanlarla her birinin bir profilini oluşturmasına yardımcı olur.
Dilekçede bulunan birçok kişi, hükümetin trajik bir kazayı yanlış ele alması veya davayı ihmal etmesi üzerine dilekçe veriyor – bunların hepsi algoritmaya giriyor. Tedarik belgesinde, “Sosyal statüsü düşükse veya büyük bir trajedi yaşadıysa, bir kişinin erken uyarı risk düzeyini artırın” deniyor.
Önyargıyı Otomatikleştirme
Fujian Eyaletinin kırsal bir ilçesi olan Zhouning’deki polis 2018’de yeni bir 439 kamera seti satın aldığında, her birinin gideceği koordinatları listeledi. Bir tedarik belgesine göre, bazıları kavşakların üzerinde ve diğerleri okulların yakınında asılıydı.
Dokuz tanesi, ortak bir yanı olan insanların evlerinin dışına yerleştirildi: akıl hastalığı.
Bazı yazılımlar yeni tehditleri ortaya çıkarmak için veri kullanmaya çalışsa da, daha yaygın bir tür, polisin önyargılı kavramlarına dayanmaktadır. The Times tarafından incelenen yüzden fazla satın alma belgesinde, gözetim “kilit kişilerin” kara listelerini hedef aldı.
Bazı ihale belgelerine göre bu kişiler arasında akıl hastalığı olanlar, hükümlü suçlular, kaçaklar, uyuşturucu kullanıcıları, dilekçe sahipleri, şüpheli teröristler, siyasi kışkırtıcılar ve sosyal istikrara yönelik tehditler bulunuyordu. Diğer sistemler göçmen işçileri, boşta kalan gençleri (okulu veya işi olmayan gençler), etnik azınlıkları, yabancıları ve HIV bulaşmış kişileri hedef aldı.
Yetkililer listelere kimin gireceğine karar veriyor ve çoğu zaman insanları bilgilendirecek bir süreç yok. Yeni teknolojilerin Çin’deki eşitsizlikleri pekiştirdiğinden ve nüfusunun en şanssız kesimlerine gözetim dayattığından endişelenen uzmanlar, Evvel bireyleri bir veri tabanında bulunuyor, nadiren kaldırılıyorlar, dedi.
Çoğu durumda yazılım, yalnızca bir popülasyonu hedeflemenin ötesine geçerek, yetkililerin olası bir tehdidi gösteren dijital tetikleyiciler kurmasına olanak tanır. Yitu’nun rakip bir ürününü detaylandıran bir Megvii sunumunda, sistemin arayüzü polisin kendi erken uyarılarını tasarlamasına izin verdi.
Basit bir boşluk doldurma menüsü ile polis, alarmları kara listeye alınan bir kişinin nerede göründüğü, kişinin ne zaman hareket ettiği, kara listeye alınmış diğer kişilerle görüşüp görüşmediği ve belirli faaliyetlerin sıklığı dahil olmak üzere belirli parametrelere dayandırabilir. Polis, sistemi, uyuşturucu kullanımı geçmişi olan iki kişi aynı otele her giriş yaptığında veya protesto geçmişi olan dört kişi aynı parka girdiğinde uyarı gönderecek şekilde ayarlayabilir.
Yitu, e-postayla gönderilen yorum taleplerine yanıt vermedi.
Bir Yitu ürününden, polisin şüpheli davranışlar hakkında uyarılar alması için parametreleri belirlemesine izin veren bir arayüz. Kredi Kredi… New York Times
2020’de Nanning şehrinde polis, “aynı veya yakındaki otellere giriş yapan üçten fazla kilit kişiyi” ve “şehir dışından yeni bir numarayı sık sık arayan bir uyuşturucu kullanıcısını” arayabilecek bir yazılım satın aldı. teklif belgesi. Dünya dışı karstik dağlarıyla ünlü bir turizm kasabası olan Yangshuo’da yetkililer, çalışma izni olmayan bir yabancının yabancı dil okullarında veya barlarda çok fazla zaman geçirmesi durumunda onları uyaran bir sistem satın aldı. ya da yasadışı çalışmak.
Şanghay’da, taraflarca yürütülen bir yayın, yetkililerin su ve elektrik kullanımını aşanları belirlemek için yazılımları nasıl kullandığını anlattı. Sistem, şüpheli tüketim kalıpları bulduğunda polise “dijital düdük” gönderecekti.
Taktik muhtemelen para biriktirmek için genellikle yakın çevrelerde yaşayan göçmen işçileri tespit etmek için tasarlandı. Bazı yerlerde, polis onları toplumlara suç getirebilecek zor ve genellikle yoksul bir grup olarak görüyor.
Otomatik uyarılar, aynı düzeyde polis yanıtıyla sonuçlanmaz. Clark Üniversitesi’nde Çin polisliği üzerine çalışmalar yapan profesör Suzanne E. Scoggins, polisin genellikle protestolar veya sosyal istikrara yönelik diğer tehditler gibi siyasi sorunlara işaret eden uyarılara öncelik verdiğini söyledi.
Zaman zaman, polis, insanların profilini çıkarma gereğini açıkça belirtti. Çin ulusal polis üniversitesinde araştırmacı olan Li Wei, 2016 yılında yaptığı bir konuşmada, “Big veri uygulamasıyla insanların bir resmini çiziyor ve onlara farklı niteliklere sahip etiketler veriyoruz” dedi. “Bir veya daha fazla etiket türü alanların kimliklerini ve davranışlarını çıkarıyoruz ve ardından hedeflenen önleyici güvenlik önlemleri alıyoruz.”
Tekno Totalitarizme Doğru
Bay Zhang, ilk olarak Kültür Devrimi sırasında ailesine işkence ettiği için hükümetten tazminat talep etmeye başladı. O zamandan beri polisin ailesini hedef aldığını söylediği şeyler için dilekçe verdi.
Çin, tekno-otoriter araçlarını geliştirirken, “ileri teknoloji ve Nazileştirilmiş” hale gelen gözetimi atlatmak için casus filmi taktiklerini kullanmak zorunda kaldı.
Zhang Yuqiao’nun evinin 100 metre yakınında güvenlik kameraları var. Köyünde başka yerlerde kamera yok” dedi. Kredi… Zhang Yuqiao
Ocak ayında Shandong Eyaletindeki köyünden Pekin’e seyahat ederken, dijital ayak izini en aza indirmek için telefonunu kapattı ve ulaşım ücretini nakit olarak ödedi. Polis takibini engellemek için yanlış yere tren bileti aldı. Kimlik kartının alarm vereceği kontrol noktalarından geçmek için özel şoförler tuttu.
Tianjin’deki sistem, polis tedarik belgesine göre, onun gibi “keşif karşıtı bir bilince sahip” ve tespitten kaçınmak için düzenli olarak araç değiştiren insanlar için özel bir özelliğe sahip.
Sistemi tetiklemiş olsun ya da olmasın, Bay Zhang bir değişiklik fark etti. Telefonunu ne zaman kapatsa, memurların onun Pekin’e yeni bir geziye çıkıp çıkmadığını kontrol etmek için evine geldiğini söyledi.
Çin’de gözetimin etkisini inceleyen London School of Economics’te ekonomi profesörü Noam Yuchtman, polis sistemleri davranışları doğru bir şekilde tahmin edemese bile, yetkililerin tehdit nedeniyle onları başarılı olarak görebileceğini söyledi.
“Gerçek bir siyasi sorumluluğun olmadığı bir bağlamda,” sık sık polis memurları gönderen bir gözetim sistemine sahip olmak, huzursuzluğu caydırmak için “oldukça iyi çalışabilir” dedi.
Ölçütler belirlendikten ve uyarılar tetiklendikten sonra, polis memurları çok az esnekliğe sahip oluyor ve kontrolü merkezileştiriyor. Uzmanlara ve kamu polis raporlarına göre, polis memurlarının otomatik alarmlara tepkileri ve protestoları önlemedeki etkinlikleri değerlendiriliyor.
Teknoloji güç dengesizliklerini kodladı. Bazı ihale belgeleri, gözetim sisteminin görmezden gelmesi gereken kişilerin “kırmızı listesine” atıfta bulunur.
Bir ulusal satın alma belgesi, işlevin “gizlilik korumasına veya VIP korumasına ihtiyaç duyan kişiler” için olduğunu söyledi. Guangdong Eyaletinden bir başkası, kırmızı listenin hükümet yetkilileri için olmasını şart koşarak daha spesifik oldu.
Bay Zhang, teknolojinin siyasi iktidardakileri sıradan insanlardan ayırma yollarından duyduğu hayal kırıklığını dile getirdi.
Yetkililer sorunları ciddi olarak çözmüyor, ancak sorunları dile getirenleri susturmak için ne gerekiyorsa yapıyorlar” dedi. “Bu, toplum için geriye doğru büyük bir adımdır.”
Bay Zhang, teknolojinin iyilik yapma gücüne hâlâ inandığını, ancak yanlış ellerde bunun bir “kırbaç ve pranga” olabileceğini söyledi.
“Geçmişte evinizden ayrılıp kırsala gittiyseniz, tüm yollar Pekin’e çıkıyordu” dedi. “Şimdi, tüm ülke bir ağ.”
Isabelle Qian ve Aaron Krolik araştırma ve raporlamaya katkıda bulundular. Agnes Chang ve Alexander Cardia tarafından üretim.