За понад 1,4 мільярда людей, які живуть у Китаї, постійно спостерігають. Їх фіксують поліцейські камери , які є скрізь, на розі вулиць і стелях метро, у холах готелів і багатоквартирних будинків. Їхні телефони відстежуються, їхні покупки відстежуються, а їхні онлайн-чати піддаються цензурі.
Тепер навіть їхнє майбутнє під наглядом.
Останнє покоління технологій перебирає величезні обсяги даних, зібраних про їхню повсякденну діяльність, щоб знайти закономірності та відхилення, обіцяючи передбачити злочини чи протести ще до того, як вони відбудуться. Вони націлені на потенційних порушників спокою в очах китайського уряду — не тільки на тих, хто має кримінальне минуле, але й на вразливі групи, включаючи етнічні меншини, трудові мігранти та ті, хто має в анамнезі психічні захворювання.
Вони можуть попередити поліцію, якщо жертва шахрайства намагається поїхати до Пекіна, щоб подати прохання до уряду про сплату, або якщо споживач наркотиків робить занадто багато дзвінків на один номер. Вони можуть сигналізувати офіцерам щоразу, коли людина з історією психічних захворювань наближається до школи.
Щоб уникнути цифрових дротів, потрібні значні маневри ухилення. У минулому Чжан Юцяо, 74-річний чоловік, який подавав петиції до уряду більшу частину свого дорослого життя, міг просто триматися подалі від головних автомагістралей, щоб ухилитися від влади і пробратися до Пекіна, щоб боротися за компенсацію за катування батьків під час Культурної революції. Тепер він вимикає телефони, розплачується готівкою і купує кілька квитків на потяг до фальшивих напрямків.
Незважаючи на те, що нові китайські технології, детально описані в закупівлях та інших документах, розглянутих The New York Times, значною мірою не доведені, вони ще більше розширюють межі соціального та політичного контролю та все глибше інтегрують їх у життя людей. В основному вони виправдовують задушливе спостереження та порушують конфіденційність, а в крайньому випадку ризикують автоматизувати системну дискримінацію та політичні репресії .
China Daily / Через Reuters
Для уряду соціальна стабільність є першочерговою, і будь-яку загрозу їй необхідно усунути. Протягом свого десятиліття на посаді вищого лідера Китаю Сі Цзіньпін зміцнив і централізував державу безпеки, розв’язавши техно-авторитарну політику, щоб придушити етнічні заворушення в західному регіоні Сіньцзян і запровадити деякі з найжорсткіших у світі карантину через коронавірус. Простір для інакомислення, завжди обмежений, швидко зникає.
«Великі дані повинні використовуватися як двигун для інноваційного розвитку роботи з громадської безпеки та як нова точка зростання для розвитку бойових можливостей», – сказав пан Сі у 2019 році на нараді з питань національної безпеки.
Алгоритми, які виявилися б суперечливими в інших країнах, часто називають тріумфами.
У 2020 році влада південного Китаю відхилила прохання жінки переїхати до Гонконгу, щоб бути зі своїм чоловіком, після того, як програмне забезпечення попередило їх про підозру в шлюбі, повідомляє місцева поліція. Подальше розслідування показало, що вони не часто перебували в одному місці в один і той же час і не проводили свята Весни разом. Поліція дійшла висновку, що шлюб був підроблений для отримання дозволу на міграцію.
Того ж року на півночі Китаю автоматичне сповіщення про часте вхід чоловіка в житловий комплекс з різними супутниками спонукало поліцію провести розслідування. За даними державних ЗМІ, вони виявили, що він був частиною піраміди.
Подробиці цих нових технологій безпеки описані в науково-дослідних роботах поліції, патентах та презентаціях підрядників, а також сотнях документів про державні закупівлі, переглянуті та підтверджені The Times. Багато документів про закупівлю були опубліковані в онлайн-журналі ChinaFile , виданому Asia Society, який систематично збирав багаторічні записи на урядових веб-сайтах. Інший набір, що описує програмне забезпечення, придбане владою в портовому місті Тяньцзінь, щоб не допустити петицій у сусідній Пекін, було надано IPVM , публікацією галузі спостереження.
Міністерство громадської безпеки Китаю не відповіло на запити про коментарі, надіслані факсом до його штаб-квартири в Пекіні та шести місцевих департаментів по всій країні.
Новий підхід до стеження частково заснований на поліцейському програмному забезпеченні на основі даних із Сполучених Штатів та Європи, технології, яка, як стверджують правозахисні групи, закодувала расизм у рішеннях , як-от, які райони перебувають під найсильнішим поліцейським контролем і які ув’язнені отримують умовно-дострокове звільнення. Китай доводить це до крайності, використовуючи загальнонаціональні резервуари даних, які дозволяють поліції діяти непрозоро і безкарно.
Часто люди не знають, що за ними спостерігають. Поліція майже не стикається зі стороннім увагою щодо ефективності технології або дій, які вони підказують. Китайська влада не вимагає жодних ордерів на збір особистої інформації.
На самому кривавому краю системи піднімають багаторічні науково-фантастичні загадки: як можна знати, що майбутнє точно передбачено, якщо поліція втрутиться до того, як це станеться?
Навіть якщо програмному забезпеченню не вдається визначити поведінку людей, його можна вважати успішним, оскільки саме спостереження перешкоджає заворушенням і злочинності, кажуть експерти.
«Це невидима клітка технологій, нав’язана суспільству, — сказала Майя Ван, старший дослідник з Китаю з Human Rights Watch, — непропорційний тягар цього відчувають групи людей, які вже зазнали жорсткої дискримінації в китайському суспільстві».
Флоренс Ло / Reuters
«Ніде сховатися»
У 2017 році один із найвідоміших китайських підприємців мав сміливе бачення майбутнього: комп’ютерну систему, яка могла б передбачати злочини.
Підприємець Інь Ці, який заснував Megvii, стартап зі штучного інтелекту , сказав китайським державним ЗМІ, що система спостереження може дати поліції пошукову систему для виявлення злочинів, аналізуючи величезну кількість відеозаписів, щоб інтуїтивно зрозуміти шаблони та попередити владу про підозрілі поведінка. Він пояснив, що якщо камери виявлять, що людина проводить занадто багато часу на вокзалі, система може помітити можливого кишенькового злодія.
«Було б страшно, якби люди насправді спостерігали за камерою, але за нею стоїть система», – сказав пан Інь. «Це як пошукова система, яку ми використовуємо щодня для серфінгу в Інтернеті — вона дуже нейтральна. Це має бути доброзичлива річ».
Він додав, що за такого спостереження «поганим хлопцям ніде сховатися».
Через п’ять років його бачення поволі стає реальністю. Внутрішні презентації Megvii, переглянуті The Times, показують, як продукти стартапу збирають повні цифрові досьє для поліції.
«Створіть багатовимірну базу даних, яка зберігає обличчя, фотографії, автомобілі, випадки та записи інцидентів», — йдеться в описі одного продукту, який називається «інтелектуальний пошук». Програмне забезпечення аналізує дані, щоб «викопувати звичайних людей, які здаються невинними», щоб «задушити незаконні дії в колисці».
Прес-секретар Megvii сказав у електронній заяві, що компанія віддана відповідальному розвитку штучного інтелекту, і що вона стурбована тим, щоб зробити життя більш безпечним і зручним, а «не контролювати якусь конкретну групу чи індивідуум».
Гістограми сортують групи контрольованих людей за категоріями.
Подібні технології вже впроваджуються. У 2022 році поліція Тяньцзіня придбала програмне забезпечення, вироблене конкурентом Megvii, Hikvision , яке має на меті передбачити протести. Система збирає дані про легіони китайських петицій, загальний термін у Китаї, який описує людей, які намагаються подати скарги на місцевих чиновників до вищих органів влади.
Потім він оцінює петицій щодо ймовірності того, що вони поїдуть до Пекіна. У майбутньому ці дані будуть використовуватися для навчання моделей машинного навчання, згідно з документом про закупівлю.
Місцеві чиновники хочуть запобігти подібним поїздкам, щоб уникнути політичного збентеження чи викриття правопорушень. А центральна влада не хоче, щоб у столиці збиралися групи незадоволених громадян.
Представник Hikvision відмовився коментувати систему.
За пана Сі офіційні зусилля контролювати петиціонерів ставали все більш агресивними. Зекун Ван, 32-річний член групи, яка роками шукала відшкодування через шахрайство з нерухомістю, сказав, що в 2017 році влада перехопила інших петиціонерів у Шанхаї, перш ніж вони навіть змогли купити квитки до Пекіна. Він підозрював, що влада спостерігає за їхнім спілкуванням у соцмережі WeChat.
Система Hikvision у Тяньцзіні, яка працює у співпраці з поліцією сусідніх Пекіна та провінції Хебей, є більш складною.
Згідно з закупівельною документацією, платформа аналізує ймовірність подання петицій на основі їхніх соціальних і сімейних стосунків, минулих поїздок та особистих ситуацій. Це допомагає поліції створити профіль кожного з полями для офіцерів, щоб описати темперамент протестувальника, включно з «параноїдальним», «прискіпливим» та «захмарним».
Багато людей, які звертаються з петиціями, роблять це через неналежне поводження уряду з трагічними нещасними випадками або недбалість у справі — все це входить до алгоритму. «Підвищити рівень ризику раннього попередження для людини, якщо вона має низький соціальний статус або пережила велику трагедію», – йдеться у документі про закупівлю.
Програмне забезпечення дозволяє владі Китаю орієнтуватися на людей відповідно до упереджених уявлень про їхні риси.
Costfoto/Future Publishing через Getty Images
Автоматизація упереджень
Коли в 2018 році поліція Чжуніна, сільського округу провінції Фуцзянь, придбала новий набір із 439 камер, вони вказали координати, куди буде йти кожна. Деякі висіли над перехрестями, а інші біля шкіл, згідно з документом про закупівлю.
Дев’ять були встановлені поза домівками людей, які мають щось спільне: психічні захворювання.
Хоча деяке програмне забезпечення намагається використовувати дані для виявлення нових загроз, більш поширений тип заснований на упереджених уявленнях поліції. У більш ніж сотні документів про закупівлю, переглянутих The Times, стеження було спрямовано на чорні списки «ключових осіб».
Серед цих осіб, згідно з деякими закупівельними документами, були особи з психічними захворюваннями, засуджені злочинці, втікачі, споживачі наркотиків, петиції, підозрювані в терористичній діяльності, політичні агітатори та загрози соціальній стабільності. Інші системи орієнтовані на трудових мігрантів, непрацюючу молодь (підлітків без школи чи роботи), етнічні меншини, іноземців та ВІЛ-інфікованих.
Влада вирішує, хто входить до списків, і часто не існує процесу сповіщення людей про це. Як тільки особи потрапили в базу даних, їх рідко видаляють, сказали експерти, які стурбовані тим, що нові технології посилюють диспропорції всередині Китаю, нав’язуючи спостереження за найменш щасливими частинами його населення.
У багатьох випадках програмне забезпечення йде далі, ніж просто орієнтовано на населення, дозволяючи владі встановлювати цифрові провідники, які вказують на можливу загрозу. В одній презентації Megvii, де детально описується конкуруючий продукт від Yitu, інтерфейс системи дозволив поліції розробити власні ранні попередження.
За допомогою простого заповнювального меню поліція може базувати сигнали тривоги на основі певних параметрів, зокрема, де з’являється особа з чорного списку, коли вона пересувається, чи зустрічається вона з іншими людьми із чорного списку та частотою певних дій. Поліція могла б налаштувати систему так, щоб вона надсилала попередження щоразу, коли дві людини з історією вживання наркотиків перебувають в одному готелі або коли чотири людини з історією протесту заходять в той самий парк.
Yitu не відповів на електронні запити щодо коментарів.
У 2020 році в місті Наннін поліція придбала програмне забезпечення, яке могло шукати «більше трьох ключових людей, які реєструються в тих самих або сусідніх готелях», і «споживача наркотиків, який часто дзвонить на новий номер за межами міста», тендерний документ. У Яншо, туристичному містечку, відомому своїми потойбічними карстовими горами, влада придбала систему, яка попереджає їх, якщо іноземець без дозволу на роботу витрачає занадто багато часу на навчання в школах або барах з іноземною мовою, очевидно, намагаючись зловити людей, які прострочують свої візи. або працюють нелегально.
У Шанхаї одна партійна публікація описувала, як влада використовувала програмне забезпечення для виявлення тих, хто перевищив нормальне споживання води та електроенергії. Система надсилала «цифровий свисток» до поліції, коли виявляла підозрілі моделі споживання.
Ймовірно, ця тактика була розроблена для виявлення трудових мігрантів, які часто живуть разом, щоб заощадити гроші. У деяких місцях поліція вважає їх невловимою, а часто і бідною групою, яка може привнести злочинність у громади.
Автоматичні сповіщення не призводять до того ж рівня реакції поліції. Часто поліція надає пріоритет попередженням, які вказують на політичні проблеми, як-от протести чи інші загрози соціальній стабільності, сказала Сюзанна Е. Скоггінс, професор Університету Кларка, яка вивчає поліцейську діяльність Китаю.
Іноді поліція прямо заявляла про необхідність профілювання людей. «Використовуючи великі дані, ми малюємо картину людей і надаємо їм ярлики з різними атрибутами», — сказав Лі Вей, дослідник з Університету національної поліції Китаю у своїй промові у 2016 році. «Для тих, хто отримує один або кілька типів ярликів, ми визначаємо їхню особистість і поведінку, а потім вживаємо цілеспрямовані запобіжні заходи безпеки».
Назустріч технототалітаризму
Пан Чжан вперше почав звертатися до уряду з проханням про компенсацію за катування його сім’ї під час Культурної революції. З тих пір він подав петицію про те, що, за його словами, поліція націлена на його сім’ю.
Оскільки Китай створив свої техно-авторитарні інструменти, йому довелося використовувати тактику шпигунського кіно, щоб обійти спостереження, яке, за його словами, стало «високотехнологічним і нацифікованим».
За його словами, в інших місцях його села немає камер. Чжан Юцяо
Коли в січні він приїхав до Пекіна зі свого села в провінції Шаньдун, він вимкнув телефон і заплатив за транспорт готівкою, щоб мінімізувати свій цифровий слід. Він купив квитки на потяг не в ту сторону, щоб перешкодити поліцейському відстеженню. Він найняв приватних водіїв, щоб вони об’їжджали контрольно-пропускні пункти, де його ідентифікаційна картка включала б сигналізацію.
Згідно з документом про закупівлю поліції, система в Тяньцзіні має особливу функцію для таких людей, як він, які мають «певну обізнаність щодо антирозвідки» і регулярно змінюють транспортні засоби, щоб уникнути виявлення.
Незалежно від того, запустив він систему чи ні, пан Чжан помітив зміни. За його словами, щоразу, коли він вимикає телефон, офіцери з’являються в його будинку, щоб перевірити, чи він не поїхав у нову поїздку до Пекіна.
Навіть якщо поліцейські системи не можуть точно передбачити поведінку, влада може вважати їх успішними через загрозу, сказав Ноам Юхтман, професор економіки Лондонської школи економіки, який вивчав вплив стеження в Китаї.
«У контексті, де немає реальної політичної відповідальності», система спостереження, яка часто посилає офіцерів поліції, «може досить добре» попередити заворушення, сказав він.
Після встановлення показників і спрацьовування попереджень поліцейські не матимуть гнучкості, централізуючи контроль. За даними експертів і звітів громадської поліції, їх оцінюють за їхню чутливість до автоматизованих сигналів тривоги та ефективність у запобіганні протестам.
Технологія закодувала дисбаланс потужності. Деякі тендерні документи посилаються на «червоний список» людей, яких система спостереження повинна ігнорувати.
В одному національному документі про закупівлі сказано, що ця функція призначена для «людей, які потребують захисту конфіденційності або захисту VIP». Інший, з провінції Гуандун, став більш конкретним, вказуючи, що червоний список для урядовців.
Пан Чжан висловив розчарування з приводу того, як технології відрізали тих, хто має політичну владу, від звичайних людей.
«Влада серйозно не вирішує проблеми, але робить все можливе, щоб заглушити людей, які порушують проблеми», – сказав він. «Це великий крок назад для суспільства».
Пан Чжан сказав, що він все ще вірить у силу технологій, щоб робити добро, але що в неправильних руках це може бути «бичем і кайданами».
«У минулому, якщо ви залишили свій дім і вирушили в сільську місцевість, усі дороги вели до Пекіна», — сказав він. «Тепер вся країна — сітка».