Hur började det hela?
Europeiska unionen diskuterar möjligheten att förbjuda användningen av konstgjorda
Som en del av förslaget till resolution"På ett europeiskt tillvägagångssätt för artificiell intelligens", föreslår EU-chefen att förbjuda AI-teknik som används för "massövervakning som tillämpas på ett generaliserat sätt på alla individer utan någon åtskillnad." Texten i lagförslaget beskriver i detalj sådana övervakningsmetoder som "övervakning och spårning av individer i den digitala eller fysiska miljön, samt automatisk aggregering och analys av personuppgifter från olika källor", rapporterar nyhetsbyrån REGNUM.
Europeiska kommissionen försöker förklaraav lagen om artificiell intelligens (AI) -system som används för "massövervakning av människor" som en del av nya förbud som kommer att införas nästa vecka.
Dessutom föreskriver Europeiska kommissionen förbudatt använda AI-applikationer som bryter mot EU-värden eller kränker mänskliga rättigheter. Dessa inkluderar system som manipulerar mänskligt beteende och riktar sig mot utsatta befolkningar.
Enligt utkastet måste till exempel EU-medlemmar göra detskapa utvärderingskommittéer för att testa och validera högrisk AI-system. Och företag som utvecklar eller säljer AI som är föremål för restriktioner, inklusive de från andra länder i världen, kan få böter med upp till 4% av deras globala inkomst.
Vad är "högrisk" artificiell intelligens?
Enligt de planerade reglerna, de somavser att tillämpa artificiell intelligens, måste avgöra om ett visst användningsfall är "hög risk" och därför om de behöver göra en obligatorisk bedömning av överensstämmelse eller inte.
Exempel på högrisk AI:
- system som prioriterar sändning av räddningstjänster,
- system som bestämmer tillgången till eller utnämningen av människor till utbildningsinstitutioner,
- rekryteringsalgoritmer,
- de som bedömer kreditvärdighet,
- att utföra individuella riskbedömningar,
- algoritmer för att förutsäga brott.
Vad är kärnan i AI-kontrollräkningen?
Vi förklarar vad den nya propositionen ger.
Insamling av data om medborgare som använder systemövervakning, övervakning av sociala nätverk, bankinformation och andra källor - "urskillningslös övervakning av individer bör förbjudas om den tillämpas på ett generaliserat sätt på alla individer utan åtskillnad." Med andra ord kan ”selektiv” övervakning, om en individ har något av intresse för de behöriga myndigheterna, mycket väl tillåtas, men total övervakning ”för säkerhets skull” kommer troligen att vara förbjuden i Europa.
I propositionen föreskrivs också ett förbud motinförande av ett socialt betyg eller socialt krediteringssystem, när en mängd stora data om anslutningar, beteende, köp och annan information samlas på medborgare, och ett socialt porträtt av medborgaren skapas baserat på den totala data. AI eller neurala nätverk kan också hjälpa till att reda ut detta. De älskar detta inom banksektorn, och Europa är inget undantag i detta avseende. Men Kina har gått längst i att skapa ett socialt kreditsystem, där personer med låga betyg nekas biljetter till intercity-transporter, bosättning i vissa områden och en rad andra restriktioner införs. Sådana AI-system har en "hög chans att påverka någons försörjning", konstaterar tidningen.
När det gäller sociala betyg i lagförslagetsa: "AI-system som används för att bedöma sociala indikatorer för allmänt ändamål bör förbjudas." Omröstning om denna proposition förväntas den 21 april. Fram till denna tid vägrar företrädare för Europeiska kommissionen att kommentera det icke godkända dokumentet.
Projektet föreskriver också:
- meddelanden om mänsklig interaktion med AI, såvida det inte är "uppenbart från omständigheterna och sammanhanget för användning",
- bedömning av högrisksystem innan de är detdriftsättning, inklusive att säkerställa att dessa system är förståeliga för mänskliga handledare och att de är utbildade i "högkvalitativa" datamängder som testas för bias,
- skapandet av ett "Europeiskt råd för artificiell intelligens", bestående av representanter för alla EU-länder.
Vad tycker experter om AI-kontroll?
Kanske den viktigaste delen av dokumentetär en artikel som förbjuder viss användning av AI, inklusive massövervakning och sociala kreditbetyg. Men reaktioner på projektet från digitala rättighetsgrupper och policyexperter säger att detta avsnitt måste förbättras.
"Beskrivningar av förbjudna konstgjorda systemintelligens är vaga och innehåller oklara språk som kan skapa allvarliga kryphål”, förklarar Daniel Leufer, europeisk policyanalytiker på Access Now, i en intervju med The Verge. Detta avsnitt, med hans ord, är "långt ifrån idealiskt."
Hur exakt bestämmer nationell lagstiftningHar AI-beslutet skadat någon eller inte? Å andra sidan är förbudet mot användning av AI för massövervakning "för mildt." Han tillägger att förbudet mot sociala kreditsystem baserade på "tillförlitlighet" också är för snävt definierat. Sociala kreditsystem behöver inte bedöma om någon är pålitlig för att avgöra frågor som till exempel deras rätt till förmåner.
På Twitter Omer Tene, vicepresidentDen ideella organisationen IAPP (International Association of Privacy Professionals), kommenterade att domen "representerar en typisk Brysselstrategi för ny teknik och innovation. Justera när du är osäker." Enligt Tene, om förslagen antas, kommer det att skapa ett "stort regulatoriskt ekosystem" som kommer att locka inte bara skapare av AI-system, utan även importörer, distributörer och användare, och kommer att skapa ett antal tillsynsnämnder, både nationella och ; över hela EU.
Detta ekosystem kommer dock inte att vara det förstaDet är turen att begränsa "Big Tech", säger Michael Veal, föreläsare i digitala rättigheter och regleringar vid University College London. "Hans fokus är främst på mindre kända leverantörer av affärs- och beslutsverktyg vars arbete ofta undviker granskning av tillsynsmyndigheter eller deras egna kunder."
Det är okänt vilka ändringar som kan ha gjortsi det här utkastet till förslag när EU:s politiker förbereder sig för ett officiellt tillkännagivande den 21 april . Men när en förordning har föreslagits kommer den att bli föremål för ändringar efter feedback från parlamentsledamöter och kommer att behöva implementeras separat i varje nationalstat.
Varför behövs en ny lag?
En plan för att reglera AI har redan diskuterats ett tag.tid. Tillbaka i februari 2020 publicerade Europeiska kommissionen ett vitbok som beskriver planer på att reglera tillämpningar av artificiell intelligens med "högrisk". Även om det inte är helt klart av det nya utkastet hur exakt "hög risk" kommer att bestämmas.
Enligt utkastet till det huvudsakliga måletKommissionens mål här är att öka allmänhetens förtroende för AI genom kontroller och balanser baserade på EU:s värderingar. Målet är att stimulera antagandet av så kallad "pålitlig" och "människcentrerad" AI. Detta gäller inte bara för "högrisk"-applikationer, utan för alla som interagerar med en person.
Vad händer om lagen antas?
Om förslaget godkänns kommer det att göra detkommer att resultera i att EU tar en stark ställning i vissa AI-tillämpningar. Vissa användningar kommer att omfattas av kontroller som liknar EU:s digitala integritetsförordning enligt GDPR-lagstiftningen.
EU:s krav inkluderar att säkerställasäkerhet och säkring av AI-systemets konsekventa noggrannhet —med villkoret att rapportera “alla allvarliga incidenter eller fel i driften av AI-systemet som utgör ett brott mot skyldigheter till tillsynsmyndigheten senast 15  ;dagar efter blev medveten om detta.
Det är anmärkningsvärt att kommissionen undvikerförslag om att förbjuda användning av ansiktsigenkänning på offentliga platser. Enligt ett läckt utkast tidigt förra året övervägde hon idén.
Det är inte känt vilka ändringar som kan ha gjortsdetta är ett utkast till förslag när EU-politiker förbereder sig för det officiella tillkännagivandet den 21 april. Men när förordningen föreslås kommer den att ändras efter att ha fått feedback från parlamentsledamöterna och måste genomföras separat i varje nationell stat.
Det är inte första gången Europa talar om regleringteknikindustrin. EU-myndigheterna vill alltså tvinga Google och Facebook att betala utgivare för nyheter, och i början av året ringde europeiska politiker cheferna för teknikjättar för att diskutera lagar som begränsar deras monopol. Enligt alla skäl kommer de lagar som utarbetas att ge 10% intäktsstraff för tekniska giganter för att begränsa deras monopol.
Läs mer
Den första exakta världskartan skapades. Vad är fel med alla andra?
NASA berättade hur de kommer att leverera prover av Mars till jorden
En motor för ett orbitalflygplan testades i Ryssland
Allmän dataskyddsförordning, AllmäntGeneral Data Protection Regulation (GDPR) är en förordning från Europeiska unionen genom vilken Europaparlamentet, Europeiska unionens råd och Europeiska kommissionen stärker och förenar skyddet av personuppgifter för alla individer i Europeiska Unionen (EU). Förordningen syftar också till att exportera data från EU.
GDPR syftar främst till att säkerställa detatt ge medborgarna kontroll över sina egna personuppgifter, och att förenkla regelverket för internationella ekonomiska förbindelser genom att ena regleringen inom EU.
Det sociala kreditsystemet ("det socialabetyg ”,” system för socialt förtroende ”) - ett system för att bedöma enskilda medborgare eller organisationer med olika parametrar, vars värden erhålls med hjälp av massobservationsverktyg och med teknik för stor dataanalys. Det implementerades först av den kinesiska regeringen under 2010-talet.