Hoe is het allemaal begonnen?
De Europese Unie bespreekt de mogelijkheid om het gebruik van kunstmatige middelen te verbieden
Als onderdeel van de ontwerpresolutie“Over een Europese aanpak van kunstmatige intelligentie” stelt het EU-bestuur voor om AI-technologieën te verbieden die worden gebruikt voor “massale surveillance die op algemene wijze wordt toegepast op alle individuen, zonder enig onderscheid.” De tekst van het wetsvoorstel beschrijft in detail surveillancemethoden als “het monitoren en volgen van individuen in de digitale of fysieke omgeving, evenals de automatische aggregatie en analyse van persoonlijke gegevens uit verschillende bronnen”, meldt persbureau REGNUM.
De Europese Commissie probeert uit tevan de wet op kunstmatige intelligentie (AI)-systemen die worden gebruikt voor "massale surveillance van mensen" als onderdeel van nieuwe verboden die volgende week worden ingevoerd.
Daarnaast voorziet de Europese Commissie in verbodenom AI-toepassingen te gebruiken die EU-waarden schenden of mensenrechten schenden. Deze omvatten systemen die menselijk gedrag manipuleren en zich richten op kwetsbare bevolkingsgroepen.
Volgens het ontwerp moeten EU-leden bijvoorbeeld:evaluatiecomités oprichten om AI-systemen met een hoog risico te testen en te valideren. En bedrijven die AI ontwikkelen of verkopen die onderhevig zijn aan beperkingen, inclusief die uit andere landen van de wereld, kunnen een boete krijgen tot 4% van hun wereldwijde inkomen.
Wat is kunstmatige intelligentie met een hoog risico?
Volgens de geplande regels mogen degenen die:van plan is om kunstmatige intelligentie toe te passen, zullen moeten bepalen of een bepaalde use-case "hoog risico" is en daarom of ze een verplichte pre-conformiteitsbeoordeling moeten uitvoeren of niet.
Voorbeelden van risicovolle AI:
- systemen die prioriteit geven aan het sturen van hulpdiensten,
- systemen die de toegang of benoeming van mensen tot onderwijsinstellingen bepalen,
- rekruteringsalgoritmen,
- degenen die de kredietwaardigheid beoordelen,
- om individuele risicobeoordelingen uit te voeren,
- algoritmen voor het voorspellen van misdaden.
Wat is de essentie van de AI-controlewet?
We leggen uit wat het nieuwe wetsvoorstel inhoudt.
Verzameling van gegevens over burgers die systemen gebruikensurveillance, monitoring van sociale netwerken, bankinformatie en andere bronnen - “willekeurige surveillance van individuen zou verboden moeten worden als het op een algemene manier wordt toegepast op alle individuen, zonder onderscheid.” Met andere woorden: “selectief” toezicht, als een individu iets heeft dat van belang is voor de bevoegde autoriteiten, is misschien wel toegestaan, maar totaal toezicht “voor het geval dat” zal in Europa waarschijnlijk verboden zijn.
Het wetsvoorstel voorziet ook in een verbod opintroductie van een sociale beoordeling of sociaal kredietsysteem, waarbij een reeks big data over connecties, gedrag, aankopen en andere informatie over burgers wordt verzameld, en een sociaal portret van de burger wordt gecreëerd op basis van het geheel van gegevens. AI of neurale netwerken kunnen ook helpen dit uit te zoeken. In de banksector zijn ze daar dol op, en Europa is in dit opzicht geen uitzondering. Maar China is het verst gegaan in het creëren van een sociaal kredietsysteem, waarbij mensen met lage beoordelingen geen kaartjes krijgen voor intercityvervoer, verblijf in bepaalde gebieden, en er worden een aantal andere beperkingen ingevoerd. Dergelijke AI-systemen hebben een “grote kans om iemands levensonderhoud te beïnvloeden”, merkt de krant op.
Met betrekking tot de sociale waardering in de rekeningzei: "AI-systemen die worden gebruikt om sociale indicatoren van algemene doeleinden te beoordelen, moeten worden verboden." De stemming over dit wetsvoorstel wordt verwacht op 21 april. Tot nu toe weigeren vertegenwoordigers van de Europese Commissie commentaar te geven op het niet-goedgekeurde document.
Het project voorziet ook in:
- meldingen over menselijke interactie met AI, tenzij dit “duidelijk is uit de omstandigheden en context van gebruik”,
- beoordeling van systemen met een hoog risico voordat ze dat zijninbedrijfstelling, onder meer door ervoor te zorgen dat deze systemen begrijpelijk zijn voor menselijke toezichthouders en dat ze worden getraind in datasets van "hoge kwaliteit" die zijn getest op vooringenomenheid,
- oprichting van een “Europese Raad voor Kunstmatige Intelligentie”, bestaande uit vertegenwoordigers van alle EU-landen.
Wat vinden experts van AI-controle?
Misschien wel het belangrijkste deel van het documentis een artikel dat bepaalde toepassingen van AI verbiedt, waaronder massasurveillance en sociale kredietbeoordelingen. Uit reacties op het project van groepen voor digitale rechten en beleidsexperts blijkt echter dat dit onderdeel moet worden verbeterd.
“Beschrijvingen van verboden kunstmatige systemeninlichtingen zijn vaag en bevatten onduidelijke taal die ernstige mazen in de wet kan creëren”, legt Daniel Leufer, Europees beleidsanalist bij Access Now, uit in een interview met The Verge. Deze sectie is, in zijn woorden, “verre van ideaal.”
Hoe beslist de nationale wetgeving preciesHeeft de AI-beslissing iemand schade berokkend of niet? Aan de andere kant is het verbod op het gebruik van AI voor massasurveillance ‘te mild’. Hij voegt eraan toe dat het verbod op sociale kredietsystemen die gebaseerd zijn op ‘betrouwbaarheid’ ook te eng is gedefinieerd. Sociale kredietsystemen hoeven niet te beoordelen of iemand betrouwbaar is om te beslissen over zaken als het recht op uitkeringen.
Bij Twitter Omer Tene, vice-presidentnon-profitorganisatie IAPP (International Association of Privacy Professionals) merkte op dat de uitspraak “een typisch Brusselse benadering van nieuwe technologieën en innovatie vertegenwoordigt. Bij twijfel: aanpassen.” Volgens Tene zal het, als de voorstellen worden aangenomen, een “enorm regelgevingsecosysteem” creëren dat niet alleen makers van AI-systemen zal aantrekken, maar ook importeurs, distributeurs en gebruikers, en een aantal regelgevende raden zal creëren, zowel nationaal als internationaal. in de hele EU.
Dit ecosysteem zal echter niet het eerste zijnHet is de beurt om ‘Big Tech’ te beperken, zegt Michael Veale, docent digitale rechten en regelgeving aan het University College London. “Zijn focus ligt vooral op minder bekende aanbieders van zakelijke en besluitvormingsinstrumenten wier werk vaak aan het toezicht van toezichthouders of hun eigen klanten ontsnapt.”
Het is niet bekend welke wijzigingen er zijn doorgevoerdin dit ontwerpvoorstel terwijl EU-beleidsmakers zich voorbereiden op een officiële aankondiging op 21 april. Zodra een verordening eenmaal is voorgesteld, zal deze echter onderhevig zijn aan veranderingen na feedback van leden van het Europees Parlement en afzonderlijk in elke natiestaat moeten worden geïmplementeerd.
Waarom is er een nieuwe wet nodig?
Er wordt al enige tijd gesproken over een plan om AI te reguleren.tijd. In februari 2020 publiceerde de Europese Commissie een witboek waarin plannen werden geschetst om ‘risicovolle’ kunstmatige-intelligentietoepassingen te reguleren. Al wordt uit het nieuwe ontwerp niet helemaal duidelijk hoe ‘hoog risico’ precies zal worden bepaald.
Volgens het ontwerpontwerp, het hoofddoelHet doel van de Commissie is hier het vertrouwen van het publiek in AI te vergroten door middel van checks and balances op basis van de waarden van de EU. Het doel is om de adoptie van zogenaamde “betrouwbare” en “mensgerichte” AI te stimuleren. Dit geldt niet alleen voor toepassingen met een hoog risico, maar voor iedereen die met een persoon communiceert.
Wat gebeurt er als de wet wordt aangenomen?
Als het conceptvoorstel wordt aanvaard, zal dat ook gebeurenzal ertoe leiden dat de EU een sterk standpunt inneemt over bepaalde AI-toepassingen. Sommige vormen van gebruik zullen onderworpen zijn aan controles die vergelijkbaar zijn met de EU-regelgeving voor digitale privacy onder de AVG-wetgeving.
De EU-vereisten omvatten onder meer het garanderenveiligheid en het garanderen van de consistente nauwkeurigheid van de AI – met de voorwaarde dat “elke ernstige incidenten of elke storing in de werking van het AI-systeem die een schending van verplichtingen aan de toezichthoudende autoriteit inhoudt, uiterlijk op 15 mei worden gerapporteerd”. Dagen later werd ik hiervan op de hoogte.
Het is opmerkelijk dat de commissie vermedenvoorstellen om het gebruik van gezichtsherkenning op openbare plaatsen te verbieden. Volgens een uitgelekt concept begin vorig jaar overwoog ze het idee.
Het is niet bekend welke wijzigingen zijn aangebracht indit is een conceptvoorstel terwijl EU-politici zich voorbereiden op de officiële aankondiging op 21 april. Zodra de verordening echter is voorgesteld, kan deze worden gewijzigd na feedback van de leden van het Europees Parlement en moet deze in elke natiestaat afzonderlijk worden geïmplementeerd.
Dit is niet de eerste keer dat Europa het heeft over regelgevingtechnologische industrie. Zo willen de EU-autoriteiten Google en Facebook dwingen om uitgevers te betalen voor nieuws, en aan het begin van het jaar belden Europese politici de hoofden van techreuzen om wetten te bespreken die hun monopolie beperken. In alle opzichten zullen de wetten die worden opgesteld voorzien in een inkomstenboete van 10% voor technische giganten om hun monopolie te beperken.
Lees verder
De eerste nauwkeurige kaart van de wereld is gemaakt. Wat is er mis met de rest?
NASA vertelde hoe ze monsters van Mars naar de aarde zullen brengen
In Rusland werd een motor voor een orbitaal vliegtuig getest
Algemene Verordening Gegevensbescherming, AlgemeenDe Algemene Verordening Gegevensbescherming (AVG) is een verordening van de Europese Unie waarmee het Europees Parlement, de Raad van de Europese Unie en de Europese Commissie de bescherming van persoonsgegevens van alle individuen in de Europese Unie (EU) versterken en verenigen. De verordening heeft ook tot doel gegevens uit de EU te exporteren.
De AVG is primair bedoeld om dat te waarborgenom burgers controle te geven over hun eigen persoonlijke gegevens, en om het regelgevingskader voor internationale economische betrekkingen te vereenvoudigen door de regelgeving binnen de EU te verenigen.
Het sociale kredietsysteem ("de sociale"rating "," systeem van sociaal vertrouwen ") - een systeem voor het beoordelen van individuele burgers of organisaties aan de hand van verschillende parameters, waarvan de waarden worden verkregen met behulp van massale observatietools en met behulp van big data-analysetechnologie. Het werd voor het eerst geïmplementeerd door de Chinese regering in de 2010s.