AI-ГУЛАГ: як штучний інтелект допомагає «перевиховувати» інакомислячих в Китаї

Наприкінці минулого місяця стали відомі подробиці про те, як китайська влада викорінює інакодумство.

мусульманських меншин - уйгурів - за допомогоютаборів, замаскованих під трудові, і дуже докладного керівництва щодо утримання та оцінки затриманих. Вишенька на торті — підозрілих громадян для «розслідування» та «затримання» виявляє штучний інтелект. І як влаштована «чорна скринька» придушення журналістам та правозахисникам неясно. Відомо лише, що під слідство можна потрапити в тому числі за часте використання чорного входу або запопадливі молитви. А за заклик до релігійності — взагалі клопотати 10 років.

ICIJ докладно описує, про що йдеться в гайдлайні для китайської влади.ggнаводить скорочений переклад публікації.

Велика витік

Велика витік секретних китайськихурядових документів розкрила керівництво по масовим затриманням в Сіньцзяні і викрила механізм регіональної системи масового спостереження і «прогностичної поліції», що діють в дусі оруеллівської утопії.

Витік дала базу для розслідування «Китайськікабелі », проведеного Міжнародним консорціумом журналістів-розслідувачів. Секретні документи під назвою «Телеграма», які потрапили в руки дослідників, були затверджені особисто начальником служби безпеки регіону і виконують роль керівництва з управління таборами, в яких зараз містяться сотні тисяч мусульманських уйгурів та інших національних меншин. Витік також містить раніше невідомі брифінги розвідки, які розкривають принцип роботи предикативне ІІ-платформи, яка допомагає поліції вибирати цілі категорії жителів Сіньцзяну для арешту.

Розслідування пролило світло на найбільше переслідування національних і релігійних меншин в світі з часів Другої світової війни

Відповідно до звітів колишніх ув'язнених і іншимнеофіційними джерелами, а також супутниковим знімкам, протягом останніх двох років система урядових таборів для ув'язнених в Сіньцзяні виросла настільки, щоб вмістити більше мільйона чоловік.

Незважаючи на це, китайська влада заперечують якдокумент, так і факт існування таборів. Запевняючи, що мова йде про центрах навчання, які допомагають державі боротися з тероризмом. У центрах, за словами уряду, дотримуються права, свободи і принцип добровільного перебування. У тому числі там навчають мандаринський мови, і ті, яких навчають можуть вільно приходити додому, щоб піклуватися про дітей, якими в решту часу займаються інші родичі. Уряд стверджує, що система масового спостереження допомогла зробити регіон безпечнішим, через це туристичний потік зріс на 40%, а локальний ВВП, завдяки йому, на збільшився 6%.

Автентичність документа підтвердили лінгвісти. А джерела стверджують, що в тому числі важлива дата його створення. 2017 рік. Саме тоді розпочалася глобальна кампанія з перевиховання уйгурів.

вороги мимоволі

Уйгур – переважно мусульманськагромада, що розмовляє власною тюркською мовою, вже понад 1000 років проживають у посушливому центрально-азіатському регіоні, який тепер відомий як Сіньцзян. Нині їхню частку припадає майже 11 мільйонів чоловік у країні, де майже 92% з 1,4 мільярда населення мають етнічне походження ханьців. Номінально Сіньцзян & # 8211; це автономна область, в якій також мешкають казахи, таджики, мусульмани хуей та ханьці, але вона знаходиться під контролем Китаю з XVIII століття.


</ Img>

В останні роки президент Китаю Сі Цзіньпінпідняв на новий рівень загальнонаціональну кампанію з популяризації доктрини комуністичної партії і ханьської культури, і уйгури, з їх відмінною від решти країни релігією і етнічною ідентичністю, потрапили під удар.

Розбіжності між уйгурами, урядом ііншим ханьским населенням Китаю в якийсь момент досягли критичної точки і перейшли в фазу насильства. У 2009 році в столиці Синьцзян місті Урумкі уйгури вбили близько 200 осіб. У початку 2013 року вони здійснили атаки на цивільних в інших китайських містах, жертвами стали десятки людей. Як мінімум за одне з нападів відповідальна уйгурская ісламська організація. У звітах говориться, що десятки уйгурів примкнули до ІГІЛ.

На народність посипалися звинувачення в релігійномуекстремізмі і сепаратизмі, що призвело до зростання обмежень релігійної практики в регіоні, забороні на бороди і багато мусульманські молитви, а також деякі види мусульманської атрибутики, в тому числі бурки і вуалі на обличчя.

У 2017 році, зі згортанням культурного,політичного і релігійного розмаїття, Цзіньпін наказав провести тиху кампанію по масовим затриманням і насильницької асиміляції в Сіньцзяні. За повідомленнями свідків і новинних випусків, в регіоні почали масово зникати люди, поповзли чутки про таємні урядових таборах, де утримують зниклих. У деяких містах на півдні Синьцзяна зникло близько 40% дорослого населення, як стало відомо пізніше.

Китайський уряд намагалося тримати всекреті існування таборів. Але починаючи з кінця 2017 журналісти, науковці та інші дослідники - за допомогою супутникових знімків, документів про державні закупівлі та свідчень очевидців - виявили кілька місць змісту по всьому регіону. Вони були оточені парканами і сторожовими вишками, повсюдно використовувалася нова система попередження і масової стеження.

У 2017 році, за повідомленнями свідків і новинних випусків, в Сіньцзяні зникло близько 40% дорослого населення

У жовтні 2018 року, коли стало зрозуміло, що відзнахідки не відхреститися, губернатор Синьцзяна Шохрат Закир визнав її існування. Але сказав, що це так звані установи підвищення професійної освіти. За його словами, їх метою є дерадікалізація тих, хто підозрюється в тероризмі і екстремістські погляди.

В офіційному повідомленні, яке з'явилося всерпні цього року, уряд повідомив про успіх центрів, стверджуючи, що тільки завдяки їм вдалося запобігти терактам в регіоні протягом останніх трьох років.

Розслідування суперечить офіційнійхарактеристиці китайського уряду таборів як благодійних соціальних програм, що передбачають «професійне навчання вдома» та «безкоштовне» харчування. У документах зазначається, що арешти повинні проводитися практично за будь-яких обставин, якщо виявлено підозру. і вказує, що головною метою кампанії є тотальне перевиховання.

Генеральний план і різночитання

«Телеграма» включає в себе більше двох десятківкерівництв щодо поводження з людьми (бюлетенів) і містить гриф «секретно». Документ був виданий комісією з політичних та правових питань синьцзянських автономного району, комуністичною партією, що відповідає за заходи безпеки в Сіньцзяні. Його стиль об'єднує в собі типову китайську бюрократію і двозначності в дусі Оруелла. Наприклад, в ньому арештанти називаються «студентами», і є вимоги до того, що повинні представляти собою «випускники», ретельно прописані умови ходіння в туалет і зустрічі з родичами.

У документі арештанти називаються «студентами», і є вимоги до того, що мають бути «випускниками», ретельно прописані умови ходіння до туалету та зустрічі з родичами.

Двері «гуртожитку» повинні бути замкнені для«Суворого управління і контролю дій учнів, щоб уникнути втечі під час занять, періодів прийому їжі, перерв в туалеті, часу купання, лікування, сімейних відвідувань і т. Д. А персонал зобов'язаний запобігати пагони за допомогою постів охорони, камер спостереження, системи оповіщення і т.д. Тобто всього того, що типово для в'язниць. «Студенти» можуть залишати табору тільки через «хвороб і інших особливих обставин» і тільки в супроводі працівників таборів, які зможуть стежити за їх поведінкою. Перебувати на території табору «студенти» повинні не менше року, але за свідченнями очевидців, це правило дотримувалося не завжди.

Керівництво описує систему контролю поведінкив таборі, побудовану на балах. Заробити бали можна завдяки ідеологічної трансформації, навчання і занять, дотримання дисципліни. Система покарання і заохочення допомагає в тому числі визначити, чи можна укладеним контактувати з родиною і коли він може покинути заклад.

Крім того, керівництво класифікує укладених за ступенем строгості їх змісту - «дуже суворе», «суворе» і «загальне».

У документі містяться положення, що стосуютьсябазового здоров'я і фізичного благополуччя в'язнів, в тому числі чіткі вимоги, згідно з якими посадові особи табору не можуть допустити «ненормальних смертей». Персонал зобов'язаний підтримувати гігієнічні умови, запобігати спалаху захворювань і стежити за тим, щоб табірні споруди могли протистояти пожежам і землетрусів.

Як росли табору для уйгурів


</ Img>

«Студенти» мають право мінімум на один телефоннийрозмова в тиждень, відеодзвінок мінімум раз на місяць, щоб сім'ї містяться в таборах були впевнені, що з їх родичами все в порядку. Свідоцтва колишніх ув'язнених показують, що це правило масово ігнорувалося. У лютому минулого року уйгури за межами Китаю і їх прихильники почали кампанію в Твіттері, в якій вони просили уряд Китаю надати інформацію про зниклих членів сім'ї.

Незважаючи на інструкції щодо забезпечення здоров'я табезпеки, за свідченнями очевидців, через погані умови життя і відсутність медичної допомоги в таборах померло невідоме число ув'язнених. Міхрігуль Турсун, уйгурка з Синьцзяна, в даний час проживає в Сполучених Штатах, розповіла комісії США на слуханнях в листопаді 2018 року, що, перебуваючи в ув'язненні, вона побачила, як дев'ять жінок вмирали при таких обставинах.

Численні колишні ув'язнені повідомляли про те,що зазнавали або були свідками тортур та інших зловживань, включаючи тортури водою, побиття та зґвалтування. «Деяких ув'язнених вішали на стіну та били електричними палицями», &#8211; розповів ізраїльському виданню Haaretz Сайрагул Сауітбай, колишній ув'язнений, який отримав притулок у Швеції. Йому доводилося бачити людей, яких змушували сидіти на цвяхах, тих, хто повертався з кімнати катувань у крові чи нігтів.

«Телеграма» також включає в себе одіознийрозділ про «манері виховання», в якому вказується, що персонал табору повинен серед іншого «навчати» таким речам, як «етикет», «слухняність», «дружнє поведінку» і «регулярна зміна одягу». Даррен Байлер, викладач антропології в Університеті Вашингтона і авторитетний фахівець з уйгурской культурі, сказав, що прагнення навчити нормальних дорослих купатися і заводити друзів пов'язано з поширеним серед китайців хань переконанням в тому, що уйгури «відстали», що вони дикуни.

З «студентів» - в «кваліфікованих фахівців»

Влада Китаю відстоюють так звану політику«Скорочення бідності» в Сіньцзяні. Нові професійні навички, заявляють китайські влади, дозволять уйгурів шукати роботу поза полів і ферм і, таким чином, підвищувати рівень життя.


</ Img>
Ті самі високотехнологічні катівні

Але дослідники і журналісти з'ясували, що за цим ховається система примусової праці по всьому регіону - виробництво текстилю та інших товарів народного споживання.

У посібнику згадуються «додатковіможливості» для колишніх ув'язнених табору, які, мабуть, підтверджують цю інформацію. «Усі учні, які пройшли початкову підготовку, будуть відправлені до класу підвищення кваліфікації для інтенсивної підготовки на строк від 3 до 6 місяців», &#8211; йдеться у документі. «Усі префектури повинні створити спеціальні місця та спеціальні приміщення, щоб забезпечити умови для інтенсивної підготовки учнів».

У розділі під назвою «служби зайнятості»міститься інструкція для посадових осіб табору проводити політику «одна група випускається, одна група знаходить роботу». Вона пропонує, щоб ті, хто завершив професійне навчання, були поміщені на робоче місце.

Нарешті, керівництво доручає місцевим поліцейськимділянках і судовим органам надавати колишнім ув'язненим після їх працевлаштування «наступну допомогу та освіту» і дає вказівку, що після звільнення «студенти не повинні залишати прямої видимості протягом одного року». Це підтверджує повідомлення про те, що затримані відправляються з таборів на місця роботи під постійним контролем поліції.

Затримання за алгоритмом

Витік проливає світло на так звануінтегровану платформу спільних операцій (Integrated Joint Operations Platform), яка збирає величезну кількість персональних даних про громадян з різноманітних ресурсів і потім, за допомогою штучного інтелекту, формує список підозрілих людей.

Згідно з даними Організації з прав людини, вЯк джерела виступають численні контрольно-пропускні пункти Синьцзяна, камери розпізнаванням осіб, шпигунське ПЗ, яке уйгури зобов'язані встановлювати на смартфон на вимогу поліції, «сніфери Wi-Fi», які збирають ідентифікаційну інформацію про смартфонах і комп'ютерах і навіть перехоплюють пакети даних. За даними правозахисників, шпигунське додаток передає дані про те, що робить користувач на смартфоні, в IJOP в реальному часі.

Експерт з документами в SOS InternationalМульвенон стверджує, що китайська влада створили модель поліцейської діяльності, в якій ймовірність якихось інцидентів і схильність населення брати участь в антиурядових діях можна розпізнати і спрогнозувати за допомогою штучного інтелекту і алгоритмів машинного навчання. І поліція діє виходячи з цих прогнозів. Тобто це не просто попереджувальна платформа, ця платформа, в якій ІІ виконує роль судді над людською поведінкою. Експерт характеризує її як «кібернетичний мозок», який займає центральне місце в самих передових стратегічних і військових стратегіях Китаю. Система «інфантілізірует» тих, кому доручено виконувати дії, і створює умови для правил, які можуть привести до катастрофічних наслідків, каже Мульвенон.

Програма збирає та інтерпретує дані бездозволу користувача і позначає людей, на яких влада повинна звернути увагу, на базі таких нешкідливих критеріїв, як щоденна молитва, подорожі за кордон, часте використання чорного входу в будинку.

Можливо, навіть більше значення, ніж сам збірданих, мають психологічні наслідки життя в таких умовах. З камерами розпізнавання особи на кожному розі, нескінченними КПП і мережами інформаторів. IJOP створює відчуття, що вона знає і відчуває все, може проникнути в найінтимніші аспекти повсякденного життя. Сусіди зникають, грунтуючись на діях невідомих алгоритмів, Синьцзян живе в стані постійного терору.

Випадковість розслідувань, викликанихIJOP, & # 8211; це не помилка, а особливість, каже Саманта Хоффман, аналітик з Австралійського інституту стратегічної політики, діяльність якого зосереджена на вивченні збору та використання персональних даних у Китаї. «Так працює державний терор. Страх вселяє навіть те, що ви самі не знаєте, що ви не гаразд», - каже Саманта Хоффман.

Поліцейські вводять у систему інформацію про всіх,кого допитують: зростання, група крові, ID, рівень освіти, професія, нещодавні поїздки, показання побутових електричних лічильників та багато іншого. Потім ІІ на підставі цих даних вирішує, чи можна вважати людину підозрілою

В одному з бюлетенів міститься інструкція протому, як проводити масові розслідування і затримання після того, як IJOP сформувала список підозрюваних. За словами експерта, після появи такого списку за тиждень в червні 2017 співробітники служби безпеки затримали 15 683 жителя Синьцзяна і помістили їх в табори для інтернованих. Це на додаток до 706 офіційно заарештованим.

IJOP вирахувала 24 412 «підозрілих особи» затиждень, і далі в документі обговорюються причини розбіжностей між офіційним списком і кількістю затриманих. Деякі не можуть бути виявлені, інші померли, але їх посвідчення особи використовувалися третіми особами, і т.д.

У минулому році Організація з прав людиниотримала копію мобільного додатка IJOP провела його реінжиніринг, щоб з'ясувати, як додаток використовується поліцією і які дані збирає. З'ясувалося, що воно пропонує поліцейським вводити докладну інформацію про всі, кого вони допитують: зростання, група крові, ID, рівень освіти, професія, недавні поїздки, показання побутових електричних лічильників та багато іншого. Потім IJOP використовує поки невідомий алгоритм, який і визначає, чи можна вважати людину підозрілим.

Майя Ван, старший дослідник Організації зправ людини в Китаї, сказала, що мета IJOP виходить далеко за рамки виявлення кандидатів для затримання. Його метою є перевірка всього населення на предмет поведінки і переконань, до яких уряд ставиться з підозрою, включаючи ознаки сильної прихильності до мусульманської віри або уйгурської ідентичності.

Мережа тягнеться за кордон

Протягом двох років новинні організаціїпублікували все більш тривожні повідомлення про зусилля Китаю щодо обмеження переміщення уйгурів, в тому числі, поїздок за кордон. У листопаді 2016 року інформаційні організації повідомили, що чиновники конфісковують паспорти жителів Сіньцзяну. У липні 2017 року на прохання Китаю Єгипет депортував не менше 12 і затримав ще десятки уйгурських студентів, що навчаються в Університеті Аль-Азхар - вузі, який відомий своєю освітою в сфері релігієзнавства. На початку 2018 року уйгури, що проживають за кордоном, повідомили, що служби безпеки в Сіньцзяні систематично збирають докладну особисту інформацію про них від родичів, які все ще живуть там.

Один із бюлетенів показує, що такі діїбули частиною широкої політичної ініціативи. Він класифікує китайських уйгурів, які живуть за кордоном, за їхніми рідними регіонами в Сіньцзяні та доручає чиновникам збирати особисту інформацію про них. Мета & # 8211; виявити тих, хто може бути запідозрений у тероризмі. У ньому йдеться, що таких людей потрібно направити на концентровану освіту та професійну підготовку відразу після їхнього повернення до Китаю.

У липні 2017 року на прохання Китаю Єгипетдепортував не менше 12 і затримав ще десятки уйгурських студентів, що навчаються в Університеті Аль-Азхар - вузі, який відомий своєю освітою в сфері релігієзнавства

У бюлетені міститься вказівка ​​організуватидепортацію будь-якої особи, яка відмовилася від громадянства Китаю. Тих, хто від громадянства не відмовлявся і не був визнаний системою підозрілим, все одно треба відправити до табору. для вивчення. А заразом &#8211; освіти та тренінгу.

«Бюлетень № 20» дає вказівку місцевимспівробітникам безпеки перевіряти всіх користувачів мобільного додатка Zapya в Сіньцзяні на предмет їх зв'язків з Ісламською державою та іншими терористичними організаціями. Це майже 2 мільйони людей.

У документах загроза «тероризму» і «екстремізму»згадується в якості підстави для затримання, але ніде немає визначення для «тероризму» або «екстремізму». У новинах повідомлялося, що затримання спрямовані на інтелектуальну еліту, уйгурів, які мають зв'язки за кордоном, і релігійних уйгурів. Проте, серед затриманих є багато тих, хто не підпадає під ці категорії. Експерти кажуть, що кампанія спрямована не тільки на конкретну поведінку, але і на цілу етнічну і релігійну групу.

У документі регулюється і роль посольств іконсульств Китаю в зборі інформації для IJOP, яка потім використовується для затримання нових «підозрюваних». У ньому міститься список з 4 341 чоловік, які подали заяву на отримання візи та інших документів в консульствах Китаю або подали заявку на заміну дійсного посвідчення особи в китайських посольствах або консульствах за кордоном.

Новинні організації повідомляли, що серед ув'язнених були іноземні громадяни. Як з'ясувалося, вони виявилися там не випадково.

У документах є список із 1535 мешканцівСіньцзяна, які набули іноземного громадянства, а також подали документи на китайські візи. IJOP визначив, що з них 75 були в Китаї, і розділив їх за громадянством: «26 турків, 23 австралійці, 3 американці, 5 шведів, 2 з Нової Зеландії, 1 з Нідерландів, 3 з Узбекистану, 2 з Великобританії, 5 & # 8211; канадці, 3 &#8211; фіни, 1 & # 8211; французи та 1 &#8211; з Киргизстану». У бюлетені містилася вказівка ​​провести розслідування на їх адресу, але не було явного занепокоєння щодо будь-яких дипломатичних наслідків, які можуть виникнути внаслідок розміщення іноземних громадян у позасудових таборах для інтернованих.

10 років за заклик не дивитися порно

Нарешті, є ще один документ, який незасекречений, але досить рідкісний за межами китайських урядових кіл. Це витяг із судової справи, яка розглядалася в 2018 році в Народній прокуратурі округу Какілік на півдні Синьцзяна. У ньому описуються звинувачення проти уйгурського чоловіки, затриманого і арештованого влітку 2017 року за звинуваченням в «розпалюванні екстремальних думок».

Чоловіка звинувачували в тому, що він рекомендував колегам уникати перегляду порнографії і не спілкуватися з тими, хто не молиться

Чоловіка звинувачували у тому, що він рекомендувавколегам уникати перегляду порнографії та не спілкуватися з тими, хто не молиться, у тому числі «ханьськими окупантами» (кафір - це арабське слово, що означає невірного або невіруючого). Свідками імовірних злочинів були колеги з уйгурськими іменами, з якими він розмовляв.

У документі вказується, що адвокат відповідачапросив суд про поблажливість, стверджуючи, що це було перший злочин людини, і що через «низького рівня юридичної обізнаності та рівня освіти він легко міг бути введений в оману і вчинити злочин».

Спецпроект

Штучний інтелект в телевізорах: як це працює

Суд засудив чоловіка до 10 років в'язниці.