AI-GULAG: comment l'intelligence artificielle aide à «rééduquer» les dissidents en Chine

À la fin du mois dernier, des détails ont été révélés sur la manière dont les autorités chinoises éradiquent la dissidence.

Les minorités musulmanes - les Ouïghours - avec l'aidecamps déguisés en camps de travail, et des directives très détaillées pour la détention et l'évaluation des détenus. Cerise sur le gâteau, les citoyens suspects sont identifiés en vue d’une « enquête » et d’une « détention » grâce à l’intelligence artificielle. Et le fonctionnement de la « boîte noire » de l’oppression n’est pas clair pour les journalistes et les militants des droits humains. Nous savons seulement que vous pouvez faire l’objet d’une enquête pour usage fréquent de la porte dérobée ou pour prières ferventes. Et pour avoir appelé à la religiosité, vous pouvez même obtenir 10 ans de prison.

L'ICIJ décrit en détail ce que disent les lignes directrices destinées aux autorités chinoises. gg fournit une traduction abrégée de la publication.

Grosse fuite

Grosse fuite de chinois secretdes documents gouvernementaux ont révélé un guide sur les détentions massives dans le Xinjiang et ont révélé le mécanisme du système régional de surveillance de masse et de la "police pronostique", opérant dans l'esprit d'une utopie orwellienne.

La fuite a fourni la base pour l’enquête de "Chinoiscâbles "menée par le Consortium international de journalistes d'investigation. Des documents secrets appelés «Télégrammes», qui sont tombés entre les mains de chercheurs, ont été personnellement approuvés par le chef du service de sécurité régionale et jouent un rôle de premier plan dans la gestion des camps, qui contiennent maintenant des centaines de milliers de Ouïghours musulmans et d’autres minorités nationales. La fuite contient également des informations précédemment inconnues sur le renseignement qui révèlent le fonctionnement de la plate-forme d'IA prédictive, ce qui aide la police à sélectionner des catégories entières d'habitants du Xinjiang en vue de leur arrestation.

L'enquête a mis en lumière la plus grande persécution des minorités nationales et religieuses au monde depuis la Seconde Guerre mondiale.

Selon des rapports d'anciens prisonniers et d'autressources non officielles, ainsi que des images satellite, au cours des deux dernières années, le système de camps de prisonniers du gouvernement dans le Xinjiang s’est développé pour accueillir plus d’un million de personnes.

Malgré cela, les autorités chinoises nient quedocument, et le fait de l'existence des camps. En assurant que nous parlons de centres de formation qui aident l’État à combattre le terrorisme. Selon le gouvernement, dans les centres, les droits, les libertés et le principe du séjour volontaire sont respectés. Le mandarin y est notamment enseigné, et les stagiaires peuvent librement rentrer chez eux pour s'occuper des enfants, qui sont autrement occupés par d'autres membres de la famille. Le gouvernement affirme que le système de surveillance de masse a contribué à rendre la région plus sûre. De ce fait, les flux de touristes ont augmenté de 40% et le PIB local, grâce à lui, de 6%.

L'authenticité du document a été confirmée par des linguistes. Et des sources affirment que la date de sa création est également importante – Année 2017. C’est alors que commence la campagne mondiale de rééducation des Ouïghours.

Ennemis involontaires

Ouïghours – majoritairement musulmanLa communauté, qui parle sa propre langue turque, vit depuis plus de 1 000 ans dans la région aride d’Asie centrale, aujourd’hui connue sous le nom de Xinjiang. Ils représentent désormais près de 11 millions de personnes dans un pays où près de 92 % des 1,4 milliard d’habitants sont d’origine ethnique Han. Nominalement, le Xinjiang – c'est une région autonome qui abrite également des Kazakhs, des Tadjiks, des musulmans Hui et des Chinois Han, mais elle est sous contrôle chinois depuis le XVIIIe siècle.


</ img>

Au cours des dernières années, le président chinois Xi JinpingLa campagne nationale visant à populariser les doctrines du parti communiste et de la culture han a été portée à un niveau supérieur et les Ouïghours, dont la religion et l'identité ethnique étaient différentes de celles du reste du pays, ont été attaqués.

Désaccords entre les Ouïghours, le gouvernement etle reste de la population chinoise Han a atteint à un moment donné un point critique et est entré dans une phase de violence. En 2009, environ 200 personnes ont été tuées par des Ouïghours dans la capitale du Xinjiang, Urumki. Début 2013, ils ont attaqué des civils dans d'autres villes chinoises, faisant des dizaines de victimes. Au moins une des attaques est responsable de l'organisation islamique ouïghoure. Les rapports indiquent que des dizaines de Ouïghours ont rejoint l'Etat islamique.

Des accusations religieuses ont plu sur le peuplel'extrémisme et le séparatisme, qui ont conduit à une augmentation des restrictions sur la pratique religieuse dans la région, une interdiction de la barbe et de nombreuses prières musulmanes, ainsi que certains types d'attirail musulman, y compris la burqa et le voile sur le visage.

En 2017, alors que la culture s'effondre,La diversité politique et religieuse, Jinping a ordonné une campagne silencieuse de détentions de masse et d'assimilation forcée dans le Xinjiang. Selon des témoins et des informations parues dans la presse, des personnes ont commencé à disparaître en masse dans la région. Des rumeurs se sont propagées à propos de camps gouvernementaux secrets contenant des personnes disparues. Dans certaines villes du sud du Xinjiang, environ 40% de la population adulte a disparu, comme on l'appelle plus tard.

Le gouvernement chinois a essayé de rester dansLe secret de l'existence des camps. Mais à partir de la fin de 2017, des journalistes, des scientifiques et d'autres chercheurs - utilisant des images satellites, des documents de marchés publics et des témoignages oculaires - ont découvert plusieurs lieux de détention dans la région. Ils étaient entourés de clôtures et de tours de guet, un nouveau système d'alerte et une surveillance de masse étaient utilisés partout.

En 2017, selon des témoins et des reportages, environ 40% de la population adulte aurait disparu au Xinjiang

En octobre 2018, quand il est devenu évident que deles trouvailles ne sont pas désavouées, le gouverneur du Xinjiang, Shohrat Zakir, a reconnu son existence. Mais il a dit que ce sont les soi-disant institutions d'enseignement professionnel. Selon lui, leur objectif est de dé-radicaliser les personnes soupçonnées de terrorisme et de vues extrémistes.

Dans un message officiel paru dansEn août dernier, le gouvernement a annoncé le succès des centres, affirmant que ce n’était que grâce à eux qu’ils avaient pu empêcher les attaques terroristes dans la région au cours des trois dernières années.

L'enquête contredit le responsableLe gouvernement chinois qualifie les camps de programmes sociaux caritatifs qui proposent une « formation professionnelle à domicile » et des repas « gratuits ». Les documents indiquent que des arrestations doivent être effectuées dans presque toutes les circonstances si des soupçons sont identifiés - et montre que l'objectif principal de la campagne est la rééducation totale.

Schéma Directeur et Variations

"Télégramme" comprend plus de deux douzainesguides pour traiter avec des personnes (bulletins) et contient le titre "secret". Le document a été publié par la Commission des affaires politiques et juridiques de la région autonome du Xinjiang, le parti communiste responsable des mesures de sécurité au Xinjiang. Son style combine la bureaucratie chinoise typique et l'ambiguïté dans l'esprit d'Orwell. Par exemple, les prisonniers y sont appelés «étudiants», et il existe des exigences pour ce que devraient être les «diplômés». Les conditions pour aller aux toilettes et rencontrer des parents sont soigneusement définies.

Dans le document, les prisonniers sont appelés « étudiants », et il existe des exigences quant à ce que devraient être les « diplômés », les conditions pour aller aux toilettes et rencontrer des proches sont soigneusement énoncées.

Les portes des dortoirs doivent être verrouillées pour«Une gestion et un contrôle stricts des actions des élèves afin d'éviter les évasions pendant les cours, les repas, les pauses dans les toilettes, la baignade, les soins, les visites de la famille, etc. etc. C'est tout ce qui est typique des prisons. Les «étudiants» ne peuvent quitter les camps qu'en raison de «maladies et autres circonstances spéciales» et uniquement accompagnés par des travailleurs des camps capables de surveiller leur comportement. Les «étudiants» devraient être dans le camp pendant au moins un an, mais selon des témoins oculaires, cette règle n'a pas toujours été respectée.

Le manuel décrit un système de contrôle du comportement.dans un camp construit sur des points. Vous pouvez gagner des points grâce à la transformation idéologique, à la formation et aux activités, à la discipline. Le système de sanction et d'incitation permet notamment de déterminer si un détenu peut contacter sa famille et à quel moment il peut quitter l'établissement.

En outre, la direction classe les prisonniers en fonction du degré de gravité de leur contenu: «très strict», «strict» et «général».

Le document contient des dispositions concernantla santé de base et le bien-être physique des prisonniers, y compris des exigences claires selon lesquelles les responsables du camp ne peuvent pas permettre des «morts anormales». Le personnel est tenu de maintenir les conditions d'hygiène, de prévenir les épidémies et de s'assurer que les installations du camp peuvent résister aux incendies et aux tremblements de terre.

Comment se sont développés les camps ouïghours


</ img>

Les «étudiants» ont droit à au moins un téléphoneune conversation par semaine, un appel vidéo au moins une fois par mois, afin que les familles des camps soient assurées que tout est en ordre avec leurs proches. Les témoignages d'anciens prisonniers montrent que cette règle a été massivement ignorée. En février dernier, des Ouïghours vivant en dehors de la Chine et leurs partisans ont lancé une campagne sur Twitter, dans laquelle ils ont demandé au gouvernement chinois de fournir des informations sur les membres de la famille portés disparus.

Malgré la santé etSelon des témoins oculaires, en raison des mauvaises conditions de vie et du manque de soins médicaux dans les camps, un nombre indéterminé de prisonniers sont morts. Mihrigul Tursun, une Ouïgour du Xinjiang résidant actuellement aux États-Unis, a déclaré à la commission américaine, lors d'une audience en novembre 2018, avoir vu neuf femmes mourir de la peine dans de telles circonstances.

De nombreux anciens prisonniers ont rapporté quequ'ils ont été soumis ou témoins de torture et d'autres abus, notamment la simulation de noyade, les passages à tabac et le viol. "Certains prisonniers ont été pendus au mur et électrocutés avec des matraques électriques", a-t-il déclaré. Sairagul Suitbay, un ancien prisonnier ayant obtenu l'asile en Suède, a déclaré au journal israélien Haaretz. Il avait vu des gens qu'on forçait à s'asseoir sur des clous, ceux qui revenaient de la salle de torture avec du sang ou sans clous.

Le télégramme comprend également l'odieuxune section sur «le mode d'éducation», qui stipule que le personnel du camp doit, entre autres choses, «enseigner» des choses telles que «l'étiquette», «l'obéissance», le «comportement amical» et le «changement régulier de vêtements». Darren Byler, professeur d'anthropologie à l'Université de Washington et spécialiste reconnu de la culture ouïghoure, a déclaré que le désir d'enseigner aux adultes normaux à nager et à se faire des amis était lié à la croyance populaire parmi les Chinois Han selon laquelle les Ouïghours étaient "derrière" qu'ils étaient des sauvages.

De «étudiants» à «spécialistes qualifiés»

Les autorités chinoises défendent la prétendue politique"Réduction de la pauvreté" au Xinjiang. Les nouvelles compétences professionnelles, selon les autorités chinoises, permettront aux Ouïghours de chercher du travail en dehors des champs et des fermes et, ainsi, d’améliorer leur niveau de vie.


</ img>
Ces donjons high-tech

Mais des chercheurs et des journalistes ont découvert que cela dissimulait un système de travail forcé dans toute la région - la production de textiles et d’autres biens de consommation.

Le manuel mentionne des « supplémentaires"opportunités" pour les anciens prisonniers du camp, qui semblent confirmer cette information. "Tous les étudiants ayant suivi la formation initiale seront envoyés dans une classe de perfectionnement pour une formation intensive d'une durée de 3 à 6 mois", &#8211; dit le document. "Toutes les préfectures devraient créer des lieux et des installations spéciaux pour offrir les conditions nécessaires à une formation intensive des stagiaires."

Dans la section intitulée "Services de l'emploi"contient des instructions pour que les responsables du camp poursuivent la politique suivante: "un groupe termine ses études, un groupe trouve du travail". Elle suggère que ceux qui terminent leur formation professionnelle soient placés sur leur lieu de travail.

Enfin, la direction donne des instructions aux policiers locauxles commissariats de police et le pouvoir judiciaire devraient fournir aux anciens prisonniers après leur emploi un «suivi d'assistance et une éducation» et ordonner qu'à leur libération «les étudiants ne doivent pas quitter leur ligne de mire d'ici un an». Cela confirme les informations selon lesquelles des détenus seraient envoyés sur les lieux de travail depuis les camps sous la surveillance constante de la police.

Détention d'algorithme

Une fuite éclaire le soi-disantplate-forme intégrée d'opérations conjointes (plate-forme d'opérations interarmées intégrées), qui collecte une quantité considérable de données personnelles sur les citoyens à partir de diverses ressources, puis forme une liste de personnes suspectes à l'aide de l'intelligence artificielle.

Selon l’organisation des droits de l’homme, dansLes sources sont de nombreux points de contrôle du Xinjiang, des caméras de reconnaissance faciale, des logiciels espions que les Ouïghours doivent installer sur leurs smartphones à la demande de la police, des «renifleurs Wi-Fi» qui collectent des informations d'identification sur les smartphones et les ordinateurs, voire interceptent des paquets de données. Selon des activistes des droits de l'homme, une application de logiciel espion transmet en temps réel à IJOP des données sur les activités d'un utilisateur sur un smartphone.

Expert en documents chez SOS InternationalMulvenon affirme que les autorités chinoises ont créé un modèle d'activité policière dans lequel la probabilité de certains incidents et la tendance de la population à participer à des actions anti-gouvernementales peuvent être reconnues et prédites à l'aide d'algorithmes d'intelligence artificielle et d'apprentissage automatique. Et la police agit sur la base de ces prédictions. Autrement dit, ce n'est pas seulement une plate-forme d'avertissement, cette plate-forme dans laquelle l'IA agit en tant que juge du comportement humain. L’expert le caractérise comme un «cerveau cybernétique», qui est au cœur des stratégies stratégiques et militaires les plus avancées de la Chine. Le système «infantilise» les personnes chargées d'exécuter des actions et crée les conditions pour des règles qui peuvent entraîner des conséquences désastreuses, explique Mulvenon.

Le programme collecte et interprète des données sansles autorisations des utilisateurs et marque les personnes auxquelles les autorités doivent prêter attention en fonction de critères inoffensifs tels que la prière quotidienne, les voyages à l'étranger, l'utilisation fréquente de la porte arrière de la maison.

Peut-être encore plus important que la collection elle-mêmeles données ont les conséquences psychologiques de vivre dans de telles conditions. Avec des caméras de reconnaissance faciale à chaque coin de rue, des boîtes de vitesses sans fin et des réseaux d'informateurs. IJOP crée le sentiment qu'elle sait et ressent tout, peut pénétrer les aspects les plus intimes de la vie quotidienne. Les voisins disparaissent, sur la base des actions d'algorithmes inconnus, le Xinjiang vit dans un état de terreur constante.

Le caractère apparemment aléatoire des enquêtes a provoquéIJOP, &#8211; Ce n'est pas un bug, mais une fonctionnalité, explique Samantha Hoffman, analyste à l'Australian Strategic Policy Institute dont les travaux portent sur la collecte et l'utilisation de données personnelles en Chine. « C’est ainsi que fonctionne le terrorisme d’État. Même si vous ne savez pas que vous ne allez pas bien, vous avez peur", explique Samantha Hoffman.

La police saisit les informations sur chacun dans le système.qui est interrogé : taille, groupe sanguin, pièce d'identité, niveau d'éducation, profession, voyages récents, relevés des compteurs électriques domestiques et bien plus encore. Ensuite, sur la base de ces données, l'IA décide si la personne peut être considérée comme suspecte.

L'un des bulletins contient des instructions surcomment mener des enquêtes de masse et des détentions après que l'IJOP a compilé une liste de suspects. Selon l'expert, après l'apparition d'une telle liste dans une semaine en juin 2017, les agents de sécurité ont détenu 15 683 résidents du Xinjiang et les ont placés dans des camps d'internement. Cela s'ajoute aux 706 arrêtés officiellement.

IJOP a calculé 24 412 «personnes suspectes» poursemaine, puis le document examine les raisons des écarts entre la liste officielle et le nombre de détenus. Certains n'ont pas pu être détectés, d'autres sont morts, mais leurs identifiants ont été utilisés par des tiers, etc.

Organisation de défense des droits de l'homme l'année dernièrea reçu une copie de l'application mobile IJOP a procédé à sa réingénierie pour savoir comment l'application est utilisée par la police et quelles données elle recueille. Il s'est avéré avoir invité la police à entrer des informations détaillées sur toutes les personnes interrogées: taille, groupe sanguin, carte d'identité, niveau d'éducation, profession, voyages récents, lectures des compteurs électriques domestiques et bien plus encore. IJOP utilise ensuite un algorithme encore inconnu, qui détermine si une personne peut être considérée comme suspecte.

Maya Wang, chercheuse principale, Organisation pourLes droits de l'homme en Chine, a déclaré que l'objectif de l'IJOP va bien au-delà de l'identification des candidats à la détention. Son but est de tester l'ensemble de la population pour détecter les comportements et les croyances auxquels le gouvernement se méfie, y compris les signes d'un fort attachement à la foi musulmane ou à l'identité ouïghoure.

Le réseau s'étend à l'étranger

Depuis deux ans, les organes de pressepublié des rapports de plus en plus inquiétants sur les efforts déployés par la Chine pour limiter les déplacements des Ouïghours, y compris les voyages à l'étranger. En novembre 2016, des agences de presse ont rapporté que des responsables confisquaient les passeports des résidents du Xinjiang. En juillet 2017, à la demande de la Chine, l'Égypte a expulsé au moins 12 et détenu des dizaines d'étudiants ouïghours étudiant à l'Université Al-Azhar, une université connue pour son éducation en études religieuses. Début 2018, des Ouïghours vivant à l'étranger ont signalé que les services de sécurité du Xinjiang collectent systématiquement des informations personnelles détaillées à leur sujet auprès de parents qui y vivent toujours.

L'un des bulletins montre que de telles actionsfaisaient partie d’une initiative politique plus large. Il classe les Ouïghours chinois vivant à l’étranger selon leur région d’origine au Xinjiang et demande aux autorités de collecter des informations personnelles à leur sujet. Objectif &#8211; identifier ceux qui pourraient être soupçonnés de terrorisme. Il indique que ces personnes devraient être envoyées vers une éducation concentrée et une formation professionnelle immédiatement après leur retour en Chine.

En juillet 2017, à la demande de la Chine, de l'Égyptedéporté au moins 12 et détenu des dizaines d'étudiants ouïghours étudiant à l'Université Al-Azhar - une université connue pour son éducation en études religieuses

Le bulletin contient des instructions pour organiserl'expulsion de toute personne ayant renoncé à la citoyenneté chinoise. Ceux qui n'ont pas renoncé à leur citoyenneté et qui n'ont pas été considérés comme suspects par le système doivent quand même être envoyés dans un camp -- " pour étudier. Et en même temps &#8211; l'éducation et la formation.

Le bulletin n ° 20 informe les locauxles responsables de la sécurité doivent vérifier tous les utilisateurs de l'application mobile Zapya Xinjiang pour leurs liens avec l'État islamique et d'autres organisations terroristes. Cela représente près de 2 millions de personnes.

Dans les documents, la menace du «terrorisme» et de «l'extrémisme»mentionné comme motif de détention, mais il n’existe nulle part de définition du «terrorisme» ou de «l’extrémisme». Les nouvelles ont rapporté que les détentions visaient l'élite intellectuelle, les Ouïghours ayant des liens avec l'étranger et les Ouïghours religieux. Cependant, il y en a beaucoup parmi les détenus qui n'entrent pas dans ces catégories. Les experts disent que la campagne vise non seulement un comportement spécifique, mais également un groupe ethnique et religieux tout entier.

Le document réglemente également le rôle des ambassades etConsulats de Chine dans la collecte d'informations pour l'IJOP, qui est ensuite utilisé pour détenir de nouveaux "suspects". Il contient une liste de 4 341 personnes qui ont demandé un visa et d'autres documents auprès des consulats chinois ou demandé le remplacement d'une carte d'identité valide dans les ambassades ou consulats chinois à l'étranger.

Les organes de presse ont signalé qu'il y avait des ressortissants étrangers parmi les prisonniers. Il s'est avéré qu'ils n'étaient pas là par hasard.

Les documents contiennent une liste de 1 535 résidentsXinjiang qui a obtenu la nationalité étrangère et a également demandé un visa chinois. L'IJOP a déterminé que 75 d'entre eux se trouvaient en Chine et les a divisés par nationalité : "26 Turcs, 23 Australiens, 3 Américains, 5 Suédois, 2 de Nouvelle-Zélande, 1 des Pays-Bas, 3 d'Ouzbékistan, 2 du Royaume-Uni, 5 &# 8211 ; Canadiens, 3 &#8211; Finlandais, 1 &#8211; Français et 1 &#8211; du Kirghizistan." Le bulletin ordonnait des enquêtes à leur sujet, mais ne s'inquiétait pas ouvertement des retombées diplomatiques qui pourraient découler du placement de ressortissants étrangers dans des camps d'internement extrajudiciaires.

10 ans pour ne pas avoir appelé pour regarder du porno

Enfin, il y a un autre document nonclassé mais assez rare en dehors des cercles du gouvernement chinois. Ceci est un extrait d'un procès qui a été entendu en 2018 au parquet populaire de Kakilik dans le sud du Xinjiang. Il décrit les accusations portées contre un Ouïghour détenu et arrêté à l'été 2017 pour «incitation à des pensées extrêmes».

L'homme a été accusé d'avoir recommandé à ses collègues d'éviter de regarder de la pornographie et de ne pas communiquer avec ceux qui ne prient pas.

L'homme était accusé d'avoir recommandéLes collègues doivent éviter de regarder de la pornographie et de s'associer avec ceux qui ne prient pas, y compris les « Han kafirs » (kafir est un mot arabe signifiant infidèle ou non-croyant). Les collègues portant des noms ouïghours avec lesquels il s’est entretenu ont été témoins des crimes présumés.

Le document indique que l’avocat du défendeura demandé au tribunal de faire preuve de clémence, affirmant qu'il s'agissait du premier crime commis par une personne et qu'en raison du «faible niveau de connaissances juridiques et du niveau d'éducation, il pouvait facilement être induit en erreur et commettre un crime».

Projet spécial

Intelligence artificielle sur les téléviseurs: son fonctionnement

Le tribunal a condamné l'homme à 10 ans de prison.