Hvordan startede det hele?
En ny FN-rapport blev udgivet i september 2021. Eksperter undersøgte, hvordan lande og virksomheder
I går var FNs menneskerettighedschef MichelBachelet, opfordrede til et moratorium for brugen af kunstig intelligens, der udgør en alvorlig trussel mod menneskerettighederne. Herunder systemer til scanning af personer, der sporer mennesker på offentlige steder. Hun bemærkede, at lande straks burde forbyde AI -applikationer, der ikke overholder international menneskerettighedslovgivning.
Hvor er brugen af AI uacceptabel?
Ansøgninger skal forbydesDisse inkluderer regeringssystemer med "social rating", der evaluerer mennesker efter deres adfærd, og visse AI-baserede værktøjer, der opdeler mennesker i grupper, såsom etnicitet eller køn.
Teknologier baseret på kunstigeEfterretninger "kan være en kraft for det gode" og kan også føre til "negative, endda katastrofale, konsekvenser", hvis den bruges uden hensyntagen til, hvordan de påvirker menneskerettighederne, sagde Bachelet i en erklæring.
»Det handler ikke om manglen på kunstigtefterretninger," forklarede Peggy Hicks, direktør for tematisk interaktion ved FN's Menneskerettighedscenter, til journalister. Hun henvendte sig til medierne, mens hun præsenterede rapporten i Genève. "Pointen er, at hvis AI skal bruges i disse meget vigtige funktionsområder relateret til menneskerettigheder, så skal det gøres korrekt. Og vi har simpelthen ikke skabt den struktur, der sikrer det."
Bachelet opfordrede ikke til et fuldstændigt forbudansigtsgenkendelsesteknologi, men bemærkede, at regeringer bør stoppe med at scanne folks adfærd i realtid. For eksempel for at evaluere medarbejdernes præstationer. Du skal sikre dig, at teknologien er nøjagtig, og at AI er upartisk og opfylder standarder for privatliv og databeskyttelse.
Rapporten gav også anledning til bekymringinstrumenter, der forsøger at bestemme menneskers følelsesmæssige og mentale tilstand ved at analysere deres ansigtsudtryk eller kropsbevægelser. Eksperter understreger, at sådanne teknologier er genstand for bias, fejlfortolkning og mangel på et videnskabeligt grundlag.
"Statsmyndighedernes brug af systemerAt genkende følelser, for eksempel for at fremhæve enkeltpersoner til polititilbageholdelse eller arrestation, eller for at vurdere rigtigheden af udsagn under afhøringer, risikerer at underminere menneskerettigheder såsom privatlivets fred, frihed og retfærdighed i retsvæsenet,” står der i rapporten.
Hvor er problemet med at bruge AI særligt akut?
Selvom navnene på specifikke lande i rapportenikke er nævnt, er det værd at nævne Kina. Lad os huske på, at myndighederne i maj lancerede et program til at teste følelsesgenkendelseskameraer på uigurer i den vestlige region Xinjiang. Og anerkendelse af uighurerne selv. Lad os huske på, at Human Rights Watch tilbage i 2018 offentliggjorde en rapport om forfølgelsen af den muslimske befolkning i den kinesiske region Xinjiang. Ifølge organisationen er uighurer i de senere år blevet tilbageholdt der i massevis og ofte uden grund, idet de har anbragt dem i fængsler og uddannelseslejre; Millioner af mennesker er under konstant videoovervågning, og deres sociale status og skæbne afhænger af point optjent i "social credit"-systemet.
Men rapportens nøgleforfattere sagde, at navngivning af specifikke lande ikke var inden for deres autoritet og endda kunne virke kontraproduktivt.
"I kinesisk sammenhæng, hvordanog i andre sammenhænge er vi bekymrede for gennemsigtighed og diskriminerende applikationer, der er rettet mod specifikke samfund,” forklarer FN-talskvinde Peggy Hicks.
Hun citerede flere retssager i USA og Australien, hvor kunstig intelligens blev misbrugt.
En af de mest højlydte fortilfælde i USA -situation med Amazon. Dette selskab er et af udviklingscentrene inden for kunstig intelligens. I 2017 lukkede virksomheden et AI-baseret rekrutteringspilotprojekt, som det havde kørt i næsten tre år. Et af hovedproblemerne var kønsdiskrimination af kandidater - algoritmen undervurderede vurderingerne af kvindelige kandidater.
I mellemtiden, i Australien, skabte retten en banebrydendepræcedens. Kunstige intelligenssystemer kan nu juridisk anerkendes som opfindere i patentansøgninger. Men ikke alle var enige i denne beslutning.
Hvad er bundlinjen?
Rapportens anbefalinger afspejler manges synspunkterpolitiske ledere i vestlige demokratier. Det er vigtigt ikke kun at udnytte det økonomiske og sociale potentiale ved AI, men også at imødegå voksende bekymringer om pålideligheden af værktøjer, der sporer og profilerer mennesker.
USAs handelsminister Gina Raimondo underen virtuel konference i juni styrkede FN-embedsmænds bekymringer. "Det er skræmmende at tænke på, hvordan det kan bruges til yderligere at forstærke diskriminerende tendenser," sagde hun.
Det er de europæiske tilsynsmyndigheder alleredehar taget skridt til at begrænse de mest risikable AI-applikationer. De foreslåede regler, som er udarbejdet af EU-embedsmænd i år, vil forbyde visse anvendelser af kunstig intelligens, såsom ansigtsscanning i realtid, og nøje kontrollere andre anvendelser, der kan true menneskers sikkerhed eller menneskerettigheder.
At læse Yderligere
En unik båd bliver til en ubåd på to minutter og er usynlig for fjenden
Fysikere har afkølet atomer til den laveste temperatur i verden
Den mest detaljerede model af universet er blevet offentliggjort online. Alle kan studere det