AI-GULAG: hvordan kunstig intelligens hjelper "å utdanne" dissidenter i Kina

Sent i forrige måned dukket det opp detaljer om hvordan kinesiske myndigheter slår ut dissens.

Muslimske minoriteter - uigurene - med hjelpleire forkledd som arbeidsleirer, og svært detaljerte retningslinjer for internering og evaluering av internerte. Prikken over i-en er at mistenkelige borgere blir identifisert for "etterforskning" og "tilhold" av kunstig intelligens. Og hvordan undertrykkelsens «svarte boks» fungerer er uklart for journalister og menneskerettighetsaktivister. Vi vet bare at du kan bli undersøkt for hyppig bruk av bakdøren eller inderlige bønner. Og for å oppfordre til religiøsitet kan du til og med få 10 år.

ICIJ beskriver i detalj hva retningslinjene til kinesiske myndigheter sier.gggir en forkortet oversettelse av publikasjonen.

Stor lekkasje

Stor lekkasje av hemmelig kinesiskRegjeringsdokumenter avslørte retningslinjene for masseforvaringer i Xinjiang og avslørte mekanismen til det regionale masseovervåkingssystemet og det "prognostiske politiet", som opererer i ånden av en orwellsk utopi.

Lekkasjen ga grunnlaget for etterforskningen av «kineserekabler ”utført av International Consortium of Investigative Journalists. Hemmelige dokumenter kalt “Telegram”, som falt i hendene på forskere, ble personlig godkjent av sjefen for den regionale sikkerhetstjenesten og fungerer som ledelsen for å styre leirene, som nå inneholder hundretusener av muslimske uigurer og andre nasjonale minoriteter. Lekkasjen inneholder også tidligere ukjente etterretnings briefinger som avslører hvordan den prediktive AI-plattformen fungerer, noe som hjelper politiet å velge hele kategorier av Xinjiang-innbyggere for arrestasjon.

Etterforskningen har kastet lys over den største forfølgelsen av nasjonale og religiøse minoriteter i verden siden andre verdenskrig.

I følge rapporter fra tidligere fanger og andreuoffisielle kilder, så vel som satellittbilder, i løpet av de siste to årene har systemet med fengselsleirer i Xinjiang vokst til å passe til mer enn en million mennesker.

Til tross for dette benekter kinesiske myndigheter hvordandokument, og faktum om leirenes eksistens. Å forsikre om at vi snakker om treningssentre som hjelper staten å bekjempe terrorisme. I sentrene respekteres ifølge myndighetene rettigheter, friheter og prinsippet om frivillig opphold. Spesielt blir Mandarin undervist der, og praktikanter kan fritt komme hjem for å ta seg av barn, som ellers er okkupert av andre slektninger. Regjeringen hevder at massetilsynssystemet bidro til å gjøre regionen tryggere, noe som fikk turiststrømmen til å øke med 40%, og det lokale BNP, takket være det, med 6%.

Ektheten av dokumentet ble bekreftet av lingvister. Og kilder hevder at datoen for opprettelsen også er viktig – 2017 år. Det var da den globale kampanjen for å gjenutdanne uigurene begynte.

Ufrivillig fiender

uigurer – overveiende muslimSamfunnet, som snakker sitt eget tyrkiske språk, har levd i den tørre sentralasiatiske regionen nå kjent som Xinjiang i mer enn 1000 år. De står nå for nesten 11 millioner mennesker i et land der nesten 92 % av den 1,4 milliarder befolkningen er av Han-etnisitet. Nominelt Xinjiang – det er en autonom region også hjem til kasakhere, tadsjikere, hui-muslimer og han-kinesere, men har vært under kinesisk kontroll siden 1700-tallet.


</ img>

De siste årene har den kinesiske presidenten Xi Jinpinghevet til et nytt nivå den landsomfattende kampanjen for å popularisere læresetningene til kommunistpartiet og Han-kulturen, og uigurene, med sin religion og etniske identitet forskjellig fra resten av landet, ble angrepet.

Uenigheter mellom uigurer, regjering ogresten av den kinesiske Han-befolkningen nådde på et tidspunkt et kritisk punkt og gikk inn i en voldsfase. I 2009 ble rundt 200 mennesker drept av uigurer i hovedstaden i Xinjiang, Urumki. Tidlig i 2013 angrep de sivile i andre kinesiske byer, med dusinvis av ofre. Minst ett av angrepene er ansvarlig for den Uyghur islamske organisasjonen. Rapporter sier at dusinvis av uigurer har sluttet seg til ISIS.

Religiøse beskyldninger regnet ned på folketekstremisme og separatisme, noe som førte til en økning i restriksjonene for religiøs praksis i regionen, forbud mot skjegg og mange muslimske bønner, samt noen typer muslimske utstyr, inkludert burka og slør i ansiktet.

I løpet av 2017, når kulturen kollapser,politisk og religiøst mangfold, beordret Jinping en rolig kampanje med massefengsler og tvangsassimilering i Xinjiang. I følge vitner og nyhetsoppslag begynte folk å forsvinne masse i regionen, ryktene spredte seg om hemmelige regjeringsleirer som inneholder savnede mennesker. I noen byer i det sørlige Xinjiang har omtrent 40% av den voksne befolkningen forsvunnet, slik det ble kjent senere.

Den kinesiske regjeringen prøvde å holde seg inneHemmeligheten bak eksistensen av leirer. Men fra slutten av 2017 fant journalister, forskere og andre forskere - ved hjelp av satellittbilder, offentlige anskaffelsesdokumenter og øyenvitnekontoer - flere interneringssteder i hele regionen. De var omgitt av gjerder og vakttårn, et nytt varslingssystem og masseovervåking ble brukt overalt.

I 2017 forsvant ifølge vitner og nyhetsmeldinger omtrent 40% av den voksne befolkningen i Xinjiang

I oktober 2018, da det ble klart at fraFunn ikke benekter, erkjenner guvernøren i Xinjiang, Shohrat Zakir, at det eksisterte. Men han sa at dette er de såkalte yrkesfaglige utdanningsinstitusjonene. Ifølge ham er deres mål å deradikalisere de som er mistenkt for terrorisme og ekstremistiske synspunkter.

I et offisielt innlegg som dukket opp iI august kunngjorde regjeringen sentralenes suksess, og hevdet at det bare var takket være dem at de klarte å forhindre terrorangrep i regionen de siste tre årene.

Etterforskningen motsier tjenestemannenDen kinesiske regjeringens karakterisering av leirene som veldedige sosiale programmer som gir «hjemmebasert yrkesopplæring» og «gratis» mat. Dokumentene sier at arrestasjoner må foretas under nesten alle omstendigheter hvis mistanke blir identifisert &#8211; og viser at hovedmålet med kampanjen er total omskolering.

Masterplan og variasjoner

"Telegram" inkluderer mer enn to dusinguider for å håndtere mennesker (bulletiner) og inneholder overskriften "hemmelighet." Dokumentet ble publisert av Xinjiang Autonomous Region Political and Legal Affairs Commission, det kommunistiske partiet som er ansvarlig for sikkerhetstiltak i Xinjiang. Hans stil kombinerer det typiske kinesiske byråkratiet og tvetydigheten i Orwells ånd. Fanger kalles for eksempel “studenter” i det, og det er krav til hva “nyutdannede” skal være, betingelser for å gå på toalettet og møte med pårørende blir nøye stavet ut.

I dokumentet kalles fangene «studenter», og det er krav til hva «kandidater» skal være, vilkårene for å gå på toalettet og møte med pårørende er nøye presisert.

Sovesdører må være låst for“Streng styring og kontroll av studentenes handlinger for å unngå rømming i klasser, perioder med å spise, pauser på toalettet, badetid, behandling, familiebesøk, etc. Og personalet er forpliktet til å forhindre rømming ved hjelp av sikkerhetsposter, overvåkningskameraer og advarselssystemer etc. Det vil si alt som er typisk for fengsler. "Studenter" kan forlate leire bare på grunn av "sykdommer og andre spesielle omstendigheter" og bare ledsaget av leirarbeidere som kan overvåke deres oppførsel. "Studenter" skulle være i leiren i minst et år, men ifølge øyenvitner ble ikke denne regelen alltid overholdt.

Manualen beskriver et atferdskontrollsystem.i en leir bygd på punkter. Du kan tjene poeng gjennom ideologisk transformasjon, trening og aktiviteter, disiplin. Straff- og insentivsystemet er med på å avgjøre blant annet om en fange kan kontakte sin familie og når han kan forlate institusjonen.

I tillegg klassifiserer ledelsen fanger etter graden av alvorlig innhold - "veldig streng", "streng" og "generell".

Dokumentet inneholder bestemmelser angåendegrunnleggende helse og fysisk velvære for fanger, inkludert klare krav for at leiren kan ikke tillate “unormale dødsfall”. Det kreves personell for å opprettholde hygieniske forhold, forhindre sykdomsutbrudd og sikre at leiranlegg tåler branner og jordskjelv.

Hvordan vokste Uighur-leirene


</ img>

"Studenter" har rett til minst en telefonen samtale i uken, en videosamtale minst en gang i måneden, slik at familiene i leirene er sikre på at alt er i orden med sine pårørende. Vitnesbyrd fra tidligere fanger viser at denne regelen ble massivt ignorert. I februar i fjor lanserte uigurer utenfor Kina og deres støttespillere en Twitter-kampanje der de ba den kinesiske regjeringen gi informasjon om savnede familiemedlemmer.

Til tross for helse ogsikkerhet, ifølge øyenvitner, på grunn av dårlige levekår og mangel på medisinsk behandling i leirene, døde et ukjent antall fanger. Mihrigul Tursun, en uigur fra Xinjiang som for tiden er bosatt i USA, fortalte den amerikanske kommisjonen under en høring i november 2018 at hun, mens hun var i varetekt, så at ni kvinner døde under slike omstendigheter.

Tallrike tidligere fanger har rapportert detat de har vært utsatt for eller vært vitne til tortur og andre overgrep, inkludert vannbrett, juling og voldtekt. "Noen fanger ble hengt fra veggen og sjokkert med elektriske batonger," &#8211; Sairagul Sauitbay, en tidligere fange som fikk asyl i Sverige, fortalte den israelske publikasjonen Haaretz. Han hadde sett folk som ble tvunget til å sitte på spiker, de som kom tilbake fra torturrommet med blod eller uten spiker.

Telegrammet inkluderer også det vemmeligeet avsnitt om "oppvekstmåten", som sier at leirpersonell blant annet skal "lære" ting som "etikette", "lydighet", "vennlig oppførsel" og "regelmessig klesbytte". Darren Byler, en antropologiprofessor ved University of Washington og en autoritativ spesialist i Uyghur-kultur, sa at ønsket om å lære normale voksne å svømme og få venner henger sammen med den populære troen blant Han-kinesere om at uigurer var “bak” at de var villmenn.

Fra “studenter” til “kvalifiserte spesialister”

Kinesiske myndigheter forsvarer den såkalte politikken"Fattigdomsbekjempelse" i Xinjiang. Nye faglige ferdigheter, sier de kinesiske myndighetene, vil tillate uigurer å lete etter arbeid utenfor åkrene og gårdene og dermed forbedre levestandarden.


</ img>
Disse høyteknologiske fangehullene

Men forskere og journalister fant ut at dette skjuler et tvangsarbeidssystem i hele regionen - produksjon av tekstiler og andre forbruksvarer.

Håndboken nevner "ytterligeremuligheter" for tidligere leirfanger, som tilsynelatende bekrefter denne informasjonen. "Alle studenter som har fullført den første opplæringen vil bli sendt til en avansert treningsklasse for intensiv trening i en periode på 3 til 6 måneder," &#8211; sier dokumentet. "Alle prefekturer bør skape spesielle plasser og spesielle fasiliteter for å gi betingelser for intensiv opplæring av traineer."

I seksjonen kalt "arbeidsformidlingstjenester"inneholder instruksjoner for leirembetsmenn til å føre en policy om at "en gruppe er uteksaminert, en gruppe finner arbeid." Hun foreslår at de som fullfører yrkesopplæring plasseres på arbeidsplassen.

Til slutt instruerer ledelsen lokale politifolkpolitistasjonene og rettsvesenet bør gi tidligere fanger etter deres ansettelse "oppfølgingshjelp og utdanning" og instruerer at "studentene ikke skal forlate sin direkte siktlinje innen ett år" ved løslatelse. Dette bekrefter rapporter om at innsatte blir sendt fra leirer til arbeidsplasser under konstant tilsyn av politiet.

Algoritme-internering

En lekkasje kaster lys over den såkalteen integrert plattform for fellesoperasjoner (Integrated Joint Operations Platform), som samler inn en enorm mengde personopplysninger om borgere fra forskjellige ressurser og deretter, ved hjelp av kunstig intelligens, danner en liste over mistenkelige mennesker.

I følge menneskerettighetsorganisasjonen, iKildene er mange Xinjiang-sjekkpunkter, ansiktsgjenkjenningskameraer, spionprogrammer som uigurer må installere på smarttelefonene sine på anmodning fra politiet, "Wi-Fi-sniffere" som samler inn identifiserende informasjon om smarttelefoner og datamaskiner og til og med avlytter datapakker. I følge menneskerettighetsforkjempere overfører en spionapp data om hva en bruker gjør på en smarttelefon til IJOP i sanntid.

Dokumentekspert hos SOS InternationalMulvenon hevder at kinesiske myndigheter har laget en modell for politiets aktivitet der sannsynligheten for noen hendelser og befolkningen har en tendens til å delta i anti-regjeringsaksjoner kan gjenkjennes og spås ved hjelp av kunstig intelligens og maskinlæringsalgoritmer. Og politiet opptrer på bakgrunn av disse spådommene. Det vil si at dette ikke bare er en advarselsplattform, denne plattformen der AI fungerer som dommer over menneskelig atferd. Eksperten karakteriserer den som en "kybernetisk hjerne", som er sentral i Kinas mest avanserte strategiske og militære strategier. Systemet "infantiliserer" dem som er siktet for å utføre handlinger og skaper vilkår for regler som kan føre til katastrofale konsekvenser, sier Mulvenon.

Programmet samler inn og tolker data utenbrukertillatelser og markerer personer som myndighetene bør ta hensyn til basert på så ufarlige kriterier som daglig bønn, reiser til utlandet, hyppig bruk av bakdøren i huset.

Kanskje enda viktigere enn selve samlingendata har de psykologiske konsekvensene av å leve i slike forhold. Med ansiktsgjenkjenningskameraer på hvert hjørne, uendelige girkasser og nettverk av informanter. IJOP skaper en følelse av at hun vet og føler alt, kan trenge gjennom de mest intime aspektene i hverdagen. Naboer forsvinner, basert på handlingene fra ukjente algoritmer, Xinjiang lever i en tilstand av konstant terror.

Den tilsynelatende tilfeldigheten av undersøkelsene forårsaketIJOP, &#8211; Det er ikke en feil, men en funksjon, sier Samantha Hoffman, analytiker ved Australian Strategic Policy Institute hvis arbeid fokuserer på innsamling og bruk av personopplysninger i Kina. «Det er slik statlig terrorisme fungerer. Selv om du ikke vet at du ikke har det bra, er du redd, sier Samantha Hoffman.

Politiet legger inn opplysninger om alle i systemet.som blir avhørt: høyde, blodtype, ID, utdanningsnivå, yrke, siste turer, husholdnings elmåleravlesninger og mye mer. Deretter, basert på disse dataene, bestemmer AI om personen kan anses som mistenkelig

En av oppslagene inneholder instruksjoner omhvordan man skal gjennomføre masseundersøkelser og interneringer etter at IJOP har satt sammen en liste over mistenkte. I følge eksperten, etter at utseendet til en slik liste i løpet av en uke i juni 2017, arresterte sikkerhetsoffiserer 15 683 innbyggere i Xinjiang og plasserte dem i interneringsleirer. Dette er i tillegg til de 706 som ble offisielt arrestert.

IJOP beregnet 24.412 “mistenkelige personer” foruke, og deretter diskuterer dokumentet årsakene til avvikene mellom den offisielle listen og antall internerte. Noen kunne ikke oppdages, andre døde, men deres ID-er ble brukt av tredjepart, etc.

I fjor menneskerettighetsorganisasjonmottok en kopi av mobilapplikasjonen IJOP gjennomførte sin reengineering for å finne ut hvordan applikasjonen brukes av politiet og hvilke data den samler inn. Det viste seg at det inviterte politiet til å legge inn detaljert informasjon om alle de avhørte: høyde, blodtype, ID, utdanningsnivå, yrke, nylige turer, avlesninger av husholdningselektriske målere og mye mer. Deretter bruker IJOP en ennå ukjent algoritme, som avgjør om en person kan anses som mistenkelig.

Maya Wang, seniorforsker, organisasjon forMenneskerettigheter i Kina, sa at IJOPs mål går langt utover å identifisere forvaringskandidater. Hensikten er å teste hele befolkningen for oppførsel og tro som regjeringen er mistenksom for, inkludert tegn på sterk tilknytning til den muslimske troen eller den uiguriske identiteten.

Nettverket strekker seg i utlandet

I to år nyhetsorganisasjonerpubliserte stadig mer alarmerende rapporter om Kinas innsats for å begrense bevegelsen av uigurer, inkludert utenlandsreiser. I november 2016 rapporterte nyhetsorganisasjoner at tjenestemenn konfiskerte Xinjiang's pass. I juli 2017 deporterte Egypt minst 12 og arresterte dusinvis av uiguriske studenter som studerer ved Al-Azhar University, et universitet som er kjent for sin utdanning i religiøse studier. Tidlig i 2018 rapporterte uigurer bosatt i utlandet at sikkerhetstjenester i Xinjiang systematisk samler detaljert personlig informasjon om dem fra pårørende som fortsatt bor der.

En av bulletinene viser at slike handlingervar en del av et bredere politisk initiativ. Den klassifiserer kinesiske uigurer som bor i utlandet etter deres hjemregioner i Xinjiang og instruerer tjenestemenn om å samle inn personlig informasjon om dem. Mål &#8211; identifisere de som kan være mistenkt for terrorisme. Den sier at slike mennesker bør sendes til konsentrert utdanning og yrkesopplæring umiddelbart etter at de har kommet tilbake til Kina.

I juli 2017, på forespørsel fra Kina, Egyptdeportert minst 12 og arrestert dusinvis av uiguriske studenter som studerer ved Al-Azhar University - et universitet som er kjent for sin utdanning i religiøse studier

Bulletinen inneholder instruksjoner for å organisereutvisning av enhver person som har gitt avkall på kinesisk statsborgerskap. De som ikke sa fra seg statsborgerskap og ikke ble ansett som mistenkelige av systemet, må fortsatt sendes til en leir &#8211; for å studere. Og samtidig &#8211; utdanning og opplæring.

Bulletin nr. 20 instruerer lokaltsikkerhetsfunksjonærer for å sjekke alle brukere av mobilapplikasjonen Zapya Xinjiang for deres koblinger til den islamske staten og andre terrororganisasjoner. Dette er nesten 2 millioner mennesker.

I dokumentene er trusselen om "terrorisme" og "ekstremisme"nevnt som en grunn for internering, men det er ingen definisjon for "terrorisme" eller "ekstremisme". Nyheten rapporterte at interneringene var rettet mot den intellektuelle eliten, uigurer med forbindelser i utlandet og religiøse uigurer. Imidlertid er det mange av de internerte som ikke faller inn i disse kategoriene. Eksperter sier kampanjen er ikke bare rettet mot spesifikk oppførsel, men også mot en hel etnisk og religiøs gruppe.

Dokumentet regulerer også ambassadenes ogKinas konsulater samler inn informasjon for IJOP, som deretter brukes til å arrestere nye "mistenkte." Den inneholder en liste med 4 341 personer som søkte om visum og andre dokumenter ved de kinesiske konsulatene eller søkte om erstatning av gyldig identitetskort ved kinesiske ambassader eller konsulater i utlandet.

Nyhetsorganisasjoner rapporterte at det var utenlandske statsborgere blant fangene. Da det viste seg, var de ikke der ved en tilfeldighet.

Dokumentene inneholder en liste med 1.535 innbyggereXinjiang, som fikk utenlandsk statsborgerskap og også søkte om kinesisk visum. IJOP fastslo at av disse 75 var i Kina og delte dem etter nasjonalitet: "26 tyrkere, 23 australske, 3 amerikanske, 5 svensker, 2 fra New Zealand, 1 fra Nederland, 3 fra Usbekistan, 2 fra Storbritannia, 5 &# 8211; kanadiere, 3 &#8211; Finner, 1 &#8211; fransk og 1 &#8211; fra Kirgisistan." Bulletinen beordret undersøkelser av dem, men var ikke åpenlyst bekymret for noe diplomatisk nedfall som kunne oppstå ved å plassere utenlandske statsborgere i utenrettslige interneringsleirer.

10 år for ikke å ringe for å se på porno

Endelig er det et annet dokument ikkeklassifisert, men sjelden nok utenfor kinesiske regjeringskretser. Dette er et utdrag fra et søksmål som ble undersøkt i 2018 ved Kakilik People's Procuracy i det sørlige Xinjiang. Den beskriver anklagene mot en Uyghur-mann som var varetektsfengslet og arrestert sommeren 2017 på siktelser for “å ha oppfordret til ekstreme tanker.”

Mannen ble beskyldt for å ha anbefalt kolleger å unngå å se på pornografi og ikke å kommunisere med dem som ikke ber

Mannen ble anklaget for å anbefaleKolleger bør unngå å se på pornografi og unngå å omgås de som ikke ber, inkludert "Han kafirs" (kafir er et arabisk ord som betyr vantro eller ikke-troende). De påståtte forbrytelsene ble vitne til av kolleger med uiguriske navn som han snakket med.

I dokumentet heter det at tiltaltes advokatba retten om mildhet, og hevdet at dette var den første forbrytelsen til en person, og at han på grunn av "lav grad av juridisk bevissthet og utdanningsnivå, lett kunne bli villedet og begått en forbrytelse".

Spesielt prosjekt

Kunstig intelligens på TV-er: Slik fungerer det

Retten dømte mannen til 10 års fengsel.