Hvordan startede det hele?
Den Europæiske Union diskuterer muligheden for at forbyde brugen af kunstige
Som en del af beslutningsforslaget"På en europæisk tilgang til kunstig intelligens", foreslår EU-direktøren at forbyde AI-teknologier, der bruges til "masseovervågning anvendt på en generaliseret måde til alle individer uden nogen forskel." Lovforslagets tekst beskriver i detaljer sådanne overvågningsmetoder som "overvågning og sporing af enkeltpersoner i det digitale eller fysiske miljø samt automatisk sammenlægning og analyse af persondata fra forskellige kilder," rapporterer REGNUM nyhedsbureauet.
Europa-Kommissionen forsøger at erklære detaf loven om kunstig intelligens (AI) -systemer, der anvendes til "masseovervågning af mennesker" som en del af nye forbud, der vil blive indført i næste uge.
Derudover sørger Europa-Kommissionen for forbudat bruge AI-applikationer, der krænker EU-værdier eller krænker menneskerettighederne. Disse inkluderer systemer, der manipulerer menneskelig adfærd og målretter mod sårbare befolkninger.
I henhold til udkastet skal EU-medlemmer f.eksoprette evalueringskomiteer til at teste og validere højrisiko-AI-systemer. Og virksomheder, der udvikler eller sælger AI, der er underlagt begrænsninger, herunder dem fra andre lande i verden, kan blive idømt en bøde på op til 4% af deres globale indkomst.
Hvad er "højrisiko" kunstig intelligens?
I henhold til de planlagte regler, dem, derhar til hensigt at anvende kunstig intelligens, bliver nødt til at afgøre, om en bestemt brugssag er "højrisiko", og derfor om de har brug for at foretage en obligatorisk præ-compliance-vurdering eller ej.
Eksempler på højrisiko-AI:
- systemer, der prioriterer afsendelse af nødtjenester
- systemer, der bestemmer adgangen til eller udnævnelsen af mennesker til uddannelsesinstitutioner
- rekrutteringsalgoritmer,
- dem, der vurderer kreditværdighed,
- at udføre individuelle risikovurderinger
- algoritmer til forudsigelse af forbrydelser.
Hvad er essensen af AI-kontrolregningen?
Vi forklarer, hvad det nye lovforslag giver.
Indsamling af data om borgere, der bruger systemerovervågning, overvågning af sociale netværk, bankinformation og andre kilder - "vilkårlig overvågning af enkeltpersoner bør forbydes, hvis den anvendes på en generaliseret måde til alle individer uden forskel." Med andre ord kan "selektiv" overvågning, hvis en person har noget af interesse for de kompetente myndigheder, godt tillades, men total overvågning "just in case" vil sandsynligvis være forbudt i Europa.
Lovforslaget indeholder også et forbud modindførelse af et socialt rating- eller socialt krediteringssystem, når en række big data om forbindelser, adfærd, køb og anden information akkumuleres på borgere, og der skabes et socialt portræt af borgeren baseret på helheden af data. AI eller neurale netværk kan også hjælpe med at finde ud af dette. De elsker dette i banksektoren, og Europa er ingen undtagelse i denne henseende. Men Kina er gået længst med at skabe et socialt kreditsystem, hvor folk med lave ratings nægtes billetter til intercity-transport, ophold i visse områder, og der indføres en række andre restriktioner. Sådanne AI-systemer har en "høj chance for at påvirke nogens levebrød," bemærker avisen.
Med hensyn til den sociale vurdering i lovforslagetsagde: "AI-systemer, der bruges til at vurdere sociale indikatorer til generelle formål, bør forbydes." Afstemning om dette lovforslag forventes den 21. april. Indtil dette tidspunkt nægter repræsentanter for Europa-Kommissionen at kommentere det ikke-godkendte dokument.
Projektet giver også mulighed for:
- meddelelser om menneskelig interaktion med AI, medmindre det er "indlysende ud fra omstændighederne og konteksten for brug",
- vurdering af højrisikosystemer, før de er detidriftsættelse, herunder sikring af, at disse systemer er forståelige for menneskelige supervisorer, og at de er uddannet i "højkvalitets" datasæt testet for bias,
- oprettelse af et "European Council on Artificial Intelligence", bestående af repræsentanter for alle EU-lande.
Hvad synes eksperter om AI-kontrol?
Måske den vigtigste del af dokumenteter en artikel, der forbyder visse anvendelser af AI, herunder masseovervågning og sociale kreditvurderinger. Imidlertid siger reaktioner på projektet fra digitale rettighedsgrupper og politikeksperter, at dette afsnit skal forbedres.
"Beskrivelser af forbudte kunstige systemerintelligens er vage og indeholder uklart sprog, der kan skabe alvorlige smuthuller,” forklarer Daniel Leufer, europæisk politikanalytiker hos Access Now, i et interview med The Verge. Denne sektion er med hans ord "langt fra ideel."
Hvordan bestemmer national lovgivning præcistSkadede AI-beslutningen nogen eller ej? På den anden side er forbuddet mod brug af kunstig intelligens til masseovervågning "for skånsomt." Han tilføjer, at forbuddet mod sociale kreditsystemer baseret på "pålidelighed" også er defineret for snævert. Sociale kreditsystemer behøver ikke at vurdere, om nogen er troværdig til at afgøre spørgsmål som f.eks. deres berettigelse til ydelser.
Hos Twitter Omer Tene, Vice Presidentnon-profit organisation IAPP (International Association of Privacy Professionals), kommenterede, at dommen "repræsenterer en typisk Bruxelles-tilgang til nye teknologier og innovation. Når du er i tvivl, juster." Hvis forslagene bliver vedtaget, vil det ifølge Tene skabe et "stort regulatorisk økosystem", der vil tiltrække ikke kun skabere af AI-systemer, men også importører, distributører og brugere, og vil skabe en række reguleringsudvalg, både nationale og ; på tværs af EU.
Dette økosystem vil dog ikke være det førsteDet er turen til at begrænse "Big Tech," siger Michael Veal, der er underviser i digitale rettigheder og reguleringer ved University College London. "Hans fokus er primært på mindre kendte udbydere af forretnings- og beslutningsværktøjer, hvis arbejde ofte unddrager sig kontrol fra regulatorer eller deres egne kunder."
Det er uvist, hvilke ændringer der kan være foretageti dette udkast til forslag, mens EU politikerne forbereder sig på en officiel meddelelse den 21. april . Men når en forordning er foreslået, vil den være genstand for ændringer efter feedback fra MEP'er og skal implementeres separat i hver nationalstat.
Hvorfor er der brug for en ny lov?
En plan for at regulere AI har allerede været diskuteret i nogen tid.tid. Tilbage i februar 2020 offentliggjorde Europa-Kommissionen en hvidbog, der skitserede planer om at regulere "højrisiko" kunstig intelligens-applikationer. Selvom det ikke er helt klart af det nye udkast, hvor præcist "høj risiko" vil blive bestemt.
Ifølge udkastet er hovedmåletKommissionens mål her er at øge offentlighedens tillid til kunstig intelligens gennem kontrol og balance baseret på EU-værdier. Målet er at stimulere adoptionen af såkaldt "troværdig" og "menneske-centreret" AI. Dette gælder ikke kun for "højrisiko"-applikationer, men for alle, der interagerer med en person.
Hvad vil der ske, hvis loven vedtages?
Hvis udkastet til forslag accepteres, vil detvil resultere i, at EU indtager en stærk holdning til visse AI-applikationer. Nogle anvendelser vil være underlagt kontrol svarende til EU's digitale privatlivsforordning i henhold til GDPR-lovgivningen.
EU-krav omfatter sikringsikkerhed og sikring af den ensartede nøjagtighed af AI —med betingelsen om at rapportere “alle alvorlige hændelser eller fejl i driften af AI-systemet, der udgør et brud på forpligtelser over for tilsynsmyndigheden senest 15. . ;dage efter blev opmærksom på dette.
Det er bemærkelsesværdigt, at Kommissionen undgikforslag om at forbyde brugen af ansigtsgenkendelse på offentlige steder. Ifølge et lækket udkast tidligt sidste år overvejede hun ideen.
Det vides ikke, hvilke ændringer der muligvis er foretagetdette er et udkast til forslag, da EU-politikere forbereder sig på en officiel meddelelse den 21. april. Når først forordningen er foreslået, kan den dog ændres efter modtagelse af feedback fra MEP'er og skal implementeres separat i hver nationalstat.
Det er ikke første gang, Europa taler om reguleringteknologi industri. Således vil EU-myndighederne tvinge Google og Facebook til at betale forlag for nyheder, og i begyndelsen af året ringede europæiske politikere til lederne for tech-giganter for at diskutere love, der begrænser deres monopol. Efter alt at dømme vil de love, der udarbejdes, give en 10% indtægtsstraf til tech-giganter for at begrænse deres monopol.
Læs mere
Det første nøjagtige kort over verden blev oprettet. Hvad er der galt med alle andre?
NASA fortalte, hvordan de vil levere prøver af Mars til Jorden
En motor til et orbitalfly blev testet i Rusland
Generel databeskyttelsesforordning, GenereltDen generelle databeskyttelsesforordning (GDPR) er en forordning fra Den Europæiske Union, hvorigennem Europa-Parlamentet, Rådet for Den Europæiske Union og Europa-Kommissionen styrker og forener beskyttelsen af personoplysninger for alle personer i Den Europæiske Union (EU). Forordningen har også til formål at eksportere data fra EU.
GDPR har primært til formål at sikre detat give borgerne kontrol over deres egne persondata, og at forenkle de lovgivningsmæssige rammer for internationale økonomiske relationer ved at samle reguleringen i EU.
Det sociale kreditsystem ("det socialerating "," system for social tillid ") - et system til vurdering af individuelle borgere eller organisationer efter forskellige parametre, hvis værdier opnås ved hjælp af masseobservationsværktøjer og ved hjælp af big data-analyseteknologi. Det blev først implementeret af den kinesiske regering i 2010'erne.