Hvordan startet det hele?
Den europeiske union diskuterer muligheten for å forby bruk av kunstig
Som en del av utkastet til resolusjon"På en europeisk tilnærming til kunstig intelligens," foreslår EU-lederen å forby AI-teknologier som brukes til "masseovervåking brukt på en generalisert måte til alle individer uten noen forskjell." Teksten i lovforslaget beskriver i detalj slike overvåkingsmetoder som «overvåking og sporing av enkeltpersoner i det digitale eller fysiske miljøet, samt automatisk aggregering og analyse av personopplysninger fra ulike kilder», melder nyhetsbyrået REGNUM.
EU-kommisjonen søker å erklære detav loven om kunstig intelligens (AI) -systemer som brukes til "masseovervåking av mennesker" som en del av nye forbud som skal innføres neste uke.
I tillegg sørger EU-kommisjonen for forbudå bruke AI-applikasjoner som bryter med EU-verdier eller bryter menneskerettighetene. Disse inkluderer systemer som manipulerer menneskelig atferd og retter seg mot sårbare befolkninger.
I følge utkastet må EU-medlemmer for eksempelopprette evalueringskomiteer for å teste og validere høyrisiko AI-systemer. Og selskaper som utvikler eller selger AI som er underlagt restriksjoner, inkludert de fra andre land i verden, kan bli bøtelagt med opptil 4% av deres globale inntekt.
Hva er "høyrisiko" kunstig intelligens?
I henhold til de planlagte reglene, de somhar til hensikt å bruke kunstig intelligens, må avgjøre om en bestemt brukssak er "høy risiko" og derfor om de trenger å gjennomføre en obligatorisk vurdering før overholdelse eller ikke.
Eksempler på høyrisiko AI:
- systemer som prioriterer utsendelse av nødetater,
- systemer som bestemmer tilgang eller utnevnelse av mennesker til utdanningsinstitusjoner,
- rekrutteringsalgoritmer,
- de som vurderer kredittverdighet,
- å utføre individuelle risikovurderinger,
- algoritmer for å forutsi forbrytelser.
Hva er essensen av AI-regningen?
Vi forklarer hva den nye lovforslaget gir.
Innsamling av data om innbyggere som bruker systemerovervåking, overvåking av sosiale nettverk, bankinformasjon og andre kilder - "vilkårlig overvåking av enkeltpersoner bør være forbudt hvis den brukes på en generalisert måte for alle individer uten forskjell." Med andre ord, "selektiv" overvåking, hvis en person har noe av interesse for de kompetente myndighetene, kan godt tillates, men total overvåking "bare i tilfelle" vil sannsynligvis være forbudt i Europa.
Lovforslaget legger også opp til forbud motinnføring av en sosial vurdering eller et sosialt krediteringssystem, når en rekke store data om forbindelser, atferd, kjøp og annen informasjon samles om innbyggere, og et sosialt portrett av innbyggeren er laget basert på totalen av data. AI eller nevrale nettverk kan også hjelpe med å finne ut av dette. De elsker dette i banksektoren, og Europa er intet unntak i denne forbindelse. Men Kina har gått lengst i å lage et sosialt kredittsystem, der folk med lav rangering nektes billetter til intercity-transport, opphold i visse områder, og en rekke andre restriksjoner innføres. Slike AI-systemer har en "høy sjanse til å påvirke noens levebrød," bemerker avisen.
Når det gjelder den sosiale karakteren i lovforslagetsa: "AI-systemer som brukes til å vurdere sosiale indikatorer for generelt formål, bør forbys." Avstemming om dette lovforslaget forventes 21. april. Inntil dette punktet nekter representanter for EU-kommisjonen å kommentere det ikke godkjente dokumentet.
Prosjektet sørger også for:
- varsler om menneskelig interaksjon med AI, med mindre det er "åpenbart fra omstendighetene og konteksten for bruk",
- vurdering av høyrisikosystemer før de er detidriftsettelse, inkludert å sikre at disse systemene er forståelige for menneskelige veiledere og at de er opplært i "høykvalitets" datasett testet for skjevhet,
- opprettelse av et "European Council on Artificial Intelligence", bestående av representanter for alle EU-land.
Hva synes eksperter om AI-kontroll?
Kanskje den viktigste delen av dokumenteter en artikkel som forbyr visse bruksområder for AI, inkludert masseovervåking og sosial kredittvurdering. Imidlertid, reaksjoner på prosjektet fra digitale rettighetsgrupper og policyeksperter sier at denne delen må forbedres.
"Beskrivelser av forbudte kunstige systemerintelligens er vage og inneholder uklart språk som kan skape alvorlige smutthull,” forklarer Daniel Leufer, europeisk policy-analytiker ved Access Now, i et intervju med The Verge. Denne delen, med hans ord, er "langt fra ideell."
Hvordan bestemmer nasjonal lovgivning nøyaktigSkadede AI-beslutningen noen eller ikke? På den annen side er forbudet mot bruk av kunstig intelligens til masseovervåking «for mildt». Han legger til at forbudet mot sosiale kredittsystemer basert på «pålitelighet» også er definert for snevert. Sosiale kredittsystemer trenger ikke å vurdere om noen er til å stole på til å avgjøre spørsmål som deres rett til ytelser.
På Twitter Omer Tene, visepresidentideell organisasjon IAPP (International Association of Privacy Professionals), kommenterte at kjennelsen "representerer en typisk Brussel-tilnærming til ny teknologi og innovasjon. Når du er i tvil, juster." Hvis forslagene blir vedtatt, vil det ifølge Tene skape et «stort regulatorisk økosystem» som vil tiltrekke seg ikke bare skapere av AI-systemer, men også importører, distributører og brukere, og vil opprette en rekke reguleringsstyrer, både nasjonale og ; over hele EU.
Dette økosystemet vil imidlertid ikke være det førsteDet er turen til å begrense «Big Tech», sier Michael Veale, foreleser i digitale rettigheter og reguleringer ved University College London. "Hans fokus er først og fremst på mindre kjente leverandører av forretnings- og beslutningsverktøy hvis arbeid ofte unngår gransking av regulatorer eller deres egne kunder."
Det er ukjent hvilke endringer som kan ha blitt gjorti dette utkastet til forslag mens EUs politikere forbereder seg på en offisiell kunngjøring 21. april . Men når en forskrift er foreslått, vil den bli gjenstand for endringer etter tilbakemelding fra MEP-er og må implementeres separat i hver nasjonalstat.
Hvorfor trengs en ny lov?
En plan for å regulere AI har allerede vært diskutert en stund.tid. Tilbake i februar 2020 publiserte EU-kommisjonen en hvitbok som skisserte planer for å regulere "høyrisiko" kunstig intelligens-applikasjoner. Selv om det ikke er helt klart av det nye utkastet hvor nøyaktig "høy risiko" vil bli bestemt.
I følge utkastet er hovedmåletKommisjonens mål her er å øke offentlighetens tillit til kunstig intelligens gjennom kontroller og balanser basert på EUs verdier. Målet er å stimulere til bruk av såkalt «pålitelig» og «menneskesentrert» AI. Dette gjelder ikke bare for "høyrisiko"-applikasjoner, men for alle som samhandler med en person.
Hva vil skje hvis loven blir vedtatt?
Hvis utkastet til forslag blir akseptert, vil det gjøre detvil føre til at EU tar en sterk stilling til visse AI-applikasjoner. Noen bruksområder vil være underlagt kontroller som ligner på EUs digitale personvernforordning under GDPR-lovgivningen.
EU-krav inkluderer å sikresikkerhet og sikre den konsekvente nøyaktigheten til AI —med betingelsen om å rapportere “alle alvorlige hendelser eller svikt i driften av AI-systemet som utgjør et brudd på forpliktelser til tilsynsmyndigheten senest 15.  ;dager etter ble klar over dette.
Det er bemerkelsesverdig at kommisjonen unngikkforslag om å forby bruk av ansiktsgjenkjenning på offentlige steder. I følge et lekket utkast tidlig i fjor vurderte hun ideen.
Det er ikke kjent hvilke endringer som kan ha blitt gjortdette er et utkast til forslag mens EU-politikere forbereder seg på en offisiell kunngjøring 21. april. Når forskriften er foreslått, vil den imidlertid kunne endres etter mottak av tilbakemeldinger fra MEP'ene og må implementeres separat i hver nasjonalstat.
Dette er ikke første gang Europa snakker om reguleringteknologiindustri. Dermed vil EU-myndighetene tvinge Google og Facebook til å betale utgivere for nyheter, og i begynnelsen av året ringte europeiske politikere sjefene for tekniske giganter for å diskutere lover som begrenser deres monopol. Etter alt å dømme vil lovene som utarbeides sørge for 10% inntektsstraff for tekniske giganter for å begrense monopolet.
Les mer
Det første nøyaktige kartet over verden ble opprettet. Hva er galt med alle andre?
NASA fortalte hvordan de vil levere prøver av Mars til jorden
En motor for et orbitalfly ble testet i Russland
Generell databeskyttelsesforordning, GenereltGeneral Data Protection Regulation (GDPR) er en forskrift fra Den europeiske union der EU-parlamentet, Rådet for Den europeiske union og EU-kommisjonen styrker og forener beskyttelsen av personopplysninger til alle individer i den europeiske union (EU). Forordningen har også som mål å eksportere data fra EU.
GDPR er først og fremst rettet mot å sikre detå gi innbyggerne kontroll over sine egne personopplysninger, og å forenkle det regulatoriske rammeverket for internasjonale økonomiske relasjoner ved å samle regulering innenfor EU.
Det sosiale kreditsystemet ("det sosialerating ”,“ system of social trust ”) - et system for å vurdere individuelle borgere eller organisasjoner etter forskjellige parametere, hvis verdier er oppnådd ved hjelp av masseobservasjonsverktøy og ved bruk av big data-analyseteknologi. Den ble først implementert av den kinesiske regjeringen på 2010-tallet.