Hvordan startet det hele?
I september 2021 ble en ny FN-rapport utgitt. Eksperter studerte hvordan land og selskaper
FNs menneskerettighetssjef Michel i gårBachelet, etterlyste et moratorium for bruk av kunstig intelligens -teknologi som utgjør en alvorlig trussel mot menneskerettighetene. Inkludert systemer for skanning av personer som sporer mennesker på offentlige steder. Hun bemerket at land umiddelbart burde forby AI -applikasjoner som ikke er i samsvar med internasjonal menneskerettighetslov.
Hvor er bruk av AI uakseptabelt?
Søknader skal utestengesDisse inkluderer offentlige "sosiale vurderings" -systemer som evaluerer mennesker etter deres oppførsel, og visse AI-baserte verktøy som deler mennesker inn i grupper, for eksempel etnisitet eller kjønn.
Teknologier basert på kunstigetterretning "kan være en kraft for det gode" og kan også føre til "negative, til og med katastrofale, konsekvenser" hvis den brukes uten hensyn til hvordan de påvirker menneskerettighetene, sa Bachelet i en uttalelse.
"Det handler ikke om mangelen på kunstigetterretning,» forklarte Peggy Hicks, direktør for tematisk interaksjon ved FNs menneskerettighetssenter, til journalister. Hun henvendte seg til media mens hun presenterte rapporten i Genève. «Poenget er at hvis AI skal brukes i disse svært viktige funksjonsområdene knyttet til menneskerettigheter, så må det gjøres riktig. Og vi har rett og slett ikke skapt strukturen som sikrer det.»
Bachelet etterlyste ikke et fullstendig forbudansiktsgjenkjenningsteknologi, men bemerket at myndigheter bør slutte å skanne folks oppførsel i sanntid. For eksempel for å evaluere ansattes ytelse. Du må sørge for at teknologien er nøyaktig og at AI er objektiv og oppfyller personvern- og databeskyttelsesstandarder.
Rapporten vekket også bekymringer forinstrumenter som prøver å bestemme menneskers emosjonelle og mentale tilstand ved å analysere ansiktsuttrykk eller kroppsbevegelser. Eksperter understreker at slike teknologier er gjenstand for skjevhet, feiltolkning og mangel på vitenskapelig grunnlag.
"Bruk av systemer fra statlige myndigheterÅ gjenkjenne følelser, for eksempel for å markere enkeltpersoner for politiets forvaring eller arrestasjon, eller for å vurdere sannheten i uttalelser under avhør, risikerer å undergrave menneskerettigheter som personvern, frihet og rettferdighet i rettsvesenet, heter det i rapporten.
Hvor er problemet med å bruke AI spesielt akutt?
Selv om navnene på spesifikke land i rapportenikke er nevnt, er det verdt å nevne Kina. La oss minne om at myndighetene i mai lanserte et program for å teste følelsesgjenkjenningskameraer på uigurer i den vestlige regionen Xinjiang. Og anerkjennelse av uigurene selv. La oss huske at tilbake i 2018 publiserte Human Rights Watch en rapport om forfølgelsen av den muslimske befolkningen i den kinesiske regionen Xinjiang. Ifølge organisasjonen har uigurer de siste årene blitt internert der i massevis og ofte uten grunn, og plassert dem i fengsler og utdanningsleire; Millioner av mennesker er under konstant videoovervåking, og deres sosiale status og skjebne avhenger av poeng opptjent i "sosial kreditt"-systemet.
Imidlertid sa rapportens nøkkelforfattere å navngi spesifikke land ikke var innenfor deres myndighet og til og med kunne virke kontraproduktivt.
"I kinesisk kontekst, hvordanog i andre sammenhenger er vi bekymret for åpenhet og diskriminerende applikasjoner som retter seg mot spesifikke samfunn,” forklarer FNs talskvinne Peggy Hicks.
Hun siterte flere rettssaker i USA og Australia der kunstig intelligens ble misbrukt.
En av de mest høylytte presedensene i USA -situasjonen med Amazon. Dette selskapet er et av sentrene for utvikling innen kunstig intelligens. I 2017 la selskapet ned et AI-basert rekrutteringspilotprosjekt som hadde pågått i omtrent tre år. Et av hovedproblemene var kjønnsdiskriminering av kandidater - algoritmen undervurderte karakterene til kvinnelige kandidater.
I mellomtiden, i Australia, har retten skapt en banebrytendepresedens. AI-systemer kan nå være juridisk anerkjent som oppfinnere i patentsøknader. Imidlertid var ikke alle enige i denne avgjørelsen.
Hva er bunnlinjen?
Rapportens anbefalinger gjenspeiler synspunktene til mangepolitiske ledere i vestlige demokratier. Det er viktig ikke bare å utnytte det økonomiske og sosiale potensialet til AI, men også å møte økende bekymringer om påliteligheten til verktøy som sporer og profilerer mennesker.
USAs handelsminister Gina Raimondo underen virtuell konferanse i juni gjentok bekymringene til FN-representantene. "Det er skummelt å tenke på hvordan det kan brukes til å øke diskriminerende tendenser ytterligere," sa hun. "Vi må sørge for at vi ikke lar det skje."
Dermed har europeiske regulatorer alleredehar tatt skritt for å begrense de mest risikable bruken av kunstig intelligens. Foreslåtte regler skissert av EU-tjenestemenn i år vil forby noen bruk av AI, for eksempel ansiktsskanning i sanntid, og strengt kontrollere annen bruk som kan true folks sikkerhet eller rettigheter.
Å lese Lengre
En unik båt blir til en ubåt på to minutter og er usynlig for fienden
Fysikere har avkjølt atomer til den laveste temperaturen i verden
Den mest detaljerte modellen av universet har blitt publisert på nettet. Hvem som helst kan studere det