Hur började det hela?
En ny FN-rapport släpptes i september 2021. Experter studerade hur länder och företag
Igår FN: s chef för mänskliga rättigheter MichelBachelet efterlyste ett moratorium för användning av tekniker för artificiell intelligens som utgör ett allvarligt hot mot mänskliga rättigheter. Inklusive system för att skanna personer som spårar människor på offentliga platser. Hon noterade att länder omedelbart borde förbjuda AI -applikationer som inte följer internationell mänsklig rättighet.
Var är användningen av AI oacceptabel?
Ansökningar som ska förbjudasDessa inkluderar statliga "sociala klassificeringssystem" som utvärderar människor utifrån deras beteende, och vissa AI-baserade verktyg som delar in människor i grupper, såsom etnicitet eller kön.
Teknik baserad på artificiellUnderrättelser "kan vara en kraft för det goda" och kan också leda till "negativa, till och med katastrofala, konsekvenser" om den används utan hänsyn till hur de påverkar mänskliga rättigheter, sa Bachelet i ett uttalande.
"Det handlar inte om bristen på konstgjordaintelligens”, förklarade Peggy Hicks, chef för tematisk interaktion vid FN:s center för mänskliga rättigheter, för reportrar. Hon talade till media när hon presenterade rapporten i Genève. "Poängen är att om AI ska användas i dessa mycket viktiga funktionella områden relaterade till mänskliga rättigheter, så måste det göras korrekt. Och vi har helt enkelt inte skapat strukturen som säkrar det."
Bachelet krävde inte ett fullständigt förbudansiktsigenkänningsteknik, men noterade att regeringar borde sluta skanna människors beteende i realtid. Till exempel för att utvärdera personalens prestationer. Du måste se till att tekniken är korrekt och att AI:n är opartisk och uppfyller integritets- och dataskyddsstandarder.
Rapporten väckte också oro överinstrument som försöker fastställa människors känslomässiga och mentala tillstånd genom att analysera deras ansiktsuttryck eller kroppsrörelser. Experter betonar att sådan teknik är föremål för partiskhet, feltolkning och brist på vetenskaplig grund.
"Användningen av system av statliga myndigheterAtt erkänna känslor, till exempel för att lyfta fram individer för polisfängelse eller arrestering, eller för att bedöma sanningshalten i uttalanden under förhör, riskerar att undergräva mänskliga rättigheter som integritet, frihet och rättvisa i rättsväsendet, heter det i rapporten.
Var är problemet med att använda AI särskilt akut?
Även om namnen på specifika länder i rapporteninte nämns, är det värt att nämna Kina. Låt oss komma ihåg att myndigheterna i maj lanserade ett program för att testa kameror för känslomässig igenkänning på uigurer i den västra regionen Xinjiang. Och erkännande av uigurerna själva. Låt oss komma ihåg att redan 2018 publicerade Human Rights Watch en rapport om förföljelsen av den muslimska befolkningen i den kinesiska regionen Xinjiang. Enligt organisationen har uigurer under de senaste åren fängslats där i massor och ofta utan anledning, och placerat dem i fängelser och utbildningsläger; Miljontals människor är under konstant videoövervakning, och deras sociala status och öde beror på poäng som samlats in i systemet för "social credit".
Men rapportens nyckelförfattare sa att det inte låg inom deras behörighet att namnge specifika länder och till och med kan vara kontraproduktivt.
"I kinesiska sammanhang, huroch i andra sammanhang är vi oroade över transparens och diskriminerande tillämpningar som riktar sig till specifika samhällen”, förklarar FN:s taleskvinna Peggy Hicks.
Hon citerade flera rättsfall i USA och Australien där artificiell intelligens missbrukades.
En av de mest högljudda prejudikaten i USA -situationen med Amazon. Detta företag är ett av utvecklingscentrumen inom området artificiell intelligens. Under 2017 avslutade företaget ett AI-baserat rekryteringspilotprojekt som det hade drivit i nästan tre år. Ett av huvudproblemen var könsdiskriminering av kandidater - algoritmen underskattade bedömningarna av kvinnliga kandidater.
Samtidigt, i Australien, skapade domstolen en banbrytandeprejudikat. System för artificiell intelligens kan nu juridiskt erkännas som uppfinnare i patentansökningar. Alla höll dock inte med om detta beslut.
Vad är slutresultatet?
Rapportens rekommendationer speglar mångas åsikterpolitiska ledare i västerländska demokratier. Det är viktigt att inte bara utnyttja den ekonomiska och sociala potentialen hos AI, utan också att ta itu med växande oro för tillförlitligheten hos verktyg som spårar och profilerar människor.
USA:s handelsminister Gina Raimondo underen virtuell konferens i juni stärkte FN:s tjänstemäns oro. "Det är skrämmande att tänka på hur det kan användas för att ytterligare förstärka diskriminerande tendenser," sa hon.
Således är europeiska tillsynsmyndigheter redanhar vidtagit åtgärder för att stävja de mest riskabla AI-applikationerna. De föreslagna reglerna, som utarbetades av Europeiska unionens tjänstemän i år, kommer att förbjuda viss användning av AI, såsom ansiktsskanning i realtid, och strikt kontrollera annan användning som kan hota mänsklig säkerhet eller mänskliga rättigheter.
Att läsa Ytterligare
En unik båt förvandlas till en ubåt på två minuter och är osynlig för fienden
Fysiker har kylt atomer till den lägsta temperaturen i världen
Den mest detaljerade modellen av universum har publicerats online. Vem som helst kan studera det