Wie hat alles angefangen?
Die Europäische Union diskutiert die Möglichkeit, den Einsatz künstlicher Substanzen zu verbieten
Im Rahmen des Beschlussentwurfs„Über einen europäischen Ansatz zur künstlichen Intelligenz“ schlägt die EU-Exekutive vor, KI-Technologien zu verbieten, die zur „Massenüberwachung eingesetzt werden, die in allgemeiner Weise auf alle Personen ohne jeglichen Unterschied angewendet wird“. Der Gesetzestext beschreibt ausführlich solche Überwachungsmethoden wie „Überwachung und Verfolgung von Personen in der digitalen oder physischen Umgebung sowie die automatische Aggregation und Analyse personenbezogener Daten aus verschiedenen Quellen“, berichtet die Nachrichtenagentur REGNUM.
Die Europäische Kommission versucht dies zu erklärendes Gesetzes über künstliche Intelligenz (KI), das für die "Massenüberwachung von Menschen" im Rahmen neuer Verbote verwendet wird, die nächste Woche eingeführt werden.
Darüber hinaus sieht die Europäische Kommission Verbote vorKI-Anwendungen zu verwenden, die gegen EU-Werte oder Menschenrechte verstoßen. Dazu gehören Systeme, die das menschliche Verhalten manipulieren und gefährdete Bevölkerungsgruppen ansprechen.
Dem Entwurf zufolge müssen beispielsweise EU-MitgliederSchaffung von Bewertungsausschüssen zum Testen und Validieren von KI-Systemen mit hohem Risiko. Unternehmen, die KI entwickeln oder verkaufen, für die Beschränkungen gelten, einschließlich Unternehmen aus anderen Ländern der Welt, können mit einer Geldstrafe von bis zu 4% ihres globalen Einkommens belegt werden.
Was ist „hochriskante“ künstliche Intelligenz?
Nach den geplanten Regeln diejenigen, diebeabsichtigt, künstliche Intelligenz anzuwenden, muss feststellen, ob ein bestimmter Anwendungsfall ein "hohes Risiko" darstellt und ob daher eine obligatorische Vorab-Compliance-Bewertung durchgeführt werden muss oder nicht.
Beispiele für Hochrisiko-KI:
- Systeme, die den Versand von Rettungsdiensten priorisieren,
- Systeme, die den Zugang oder die Ernennung von Personen zu Bildungseinrichtungen bestimmen,
- Rekrutierungsalgorithmen,
- diejenigen, die die Kreditwürdigkeit beurteilen,
- individuelle Risikobewertungen durchzuführen,
- Algorithmen zur Vorhersage von Verbrechen.
Was ist die Essenz der KI-Kontrollrechnung?
Wir erklären, was die neue Rechnung bietet.
Sammlung von Daten über Bürger, die Systeme nutzenÜberwachung, Überwachung sozialer Netzwerke, Bankinformationen und anderer Quellen – „Die wahllose Überwachung von Einzelpersonen sollte verboten werden, wenn sie allgemein auf alle Personen ohne Unterschied angewendet wird.“ Mit anderen Worten: Eine „selektive“ Überwachung, wenn eine Person etwas hat, das für die zuständigen Behörden von Interesse ist, kann durchaus zulässig sein, eine vollständige Überwachung „nur für den Fall“ wird in Europa jedoch wahrscheinlich verboten sein.
Der Gesetzentwurf sieht auch ein Verbot vorEinführung eines Sozialbewertungs- oder Sozialkreditsystems, bei dem eine Reihe großer Datenmengen zu Verbindungen, Verhalten, Käufen und anderen Informationen über Bürger gesammelt und auf der Grundlage der Gesamtheit der Daten ein soziales Porträt des Bürgers erstellt wird. Auch KI oder neuronale Netze können dabei helfen, dies herauszufinden. Das gefällt ihnen im Bankensektor, und Europa ist in dieser Hinsicht keine Ausnahme. Aber China ist bei der Schaffung eines Sozialkreditsystems am weitesten gegangen, bei dem Menschen mit niedrigen Bewertungen die Fahrkarte für den Fernverkehr und der Aufenthalt in bestimmten Gebieten verweigert werden und eine Reihe anderer Einschränkungen eingeführt werden. Solche KI-Systeme haben eine „hohe Chance, den Lebensunterhalt einer Person zu beeinflussen“, heißt es in dem Papier.
In Bezug auf die soziale Bewertung in der Rechnungsagte: "KI-Systeme, die zur Bewertung sozialer Indikatoren für allgemeine Zwecke verwendet werden, sollten verboten werden." Die Abstimmung über diesen Gesetzentwurf wird am 21. April erwartet. Bis zu diesem Zeitpunkt weigern sich Vertreter der Europäischen Kommission, zu dem nicht genehmigten Dokument Stellung zu nehmen.
Das Projekt sieht außerdem vor:
- Benachrichtigungen über menschliche Interaktion mit KI, es sei denn, dies ist „aus den Umständen und dem Kontext der Nutzung offensichtlich“,
- Bewertung von Systemen mit hohem Risiko, bevor sie es sindInbetriebnahme, einschließlich der Sicherstellung, dass diese Systeme für menschliche Vorgesetzte verständlich sind und dass sie anhand von „hochwertigen“ Datensätzen geschult werden, die auf Verzerrungen getestet wurden,
- Schaffung eines „Europäischen Rates für Künstliche Intelligenz“, bestehend aus Vertretern aller EU-Länder.
Was denken Experten über KI-Kontrolle?
Vielleicht der wichtigste Abschnitt des Dokumentsist ein Artikel, der bestimmte Verwendungen von KI verbietet, einschließlich Massenüberwachung und sozialer Bonität. Die Reaktionen von Gruppen für digitale Rechte und Politikexperten auf das Projekt sagen jedoch, dass dieser Abschnitt verbessert werden muss.
„Beschreibungen verbotener künstlicher Systeme„Die Geheimdienste sind vage und enthalten eine unklare Sprache, die schwerwiegende Schlupflöcher schaffen kann“, erklärt Daniel Leufer, europäischer Politikanalyst bei Access Now, in einem Interview mit The Verge. Dieser Abschnitt ist in seinen Worten „alles andere als ideal“.
Wie genau entscheidet die nationale Gesetzgebung?Hat die KI-Entscheidung jemandem Schaden zugefügt oder nicht? Andererseits sei das Verbot des Einsatzes von KI zur Massenüberwachung „zu milde“. Er fügt hinzu, dass auch das Verbot von Sozialkreditsystemen, die auf „Zuverlässigkeit“ basieren, zu eng gefasst sei. Sozialkreditsysteme müssen nicht beurteilen, ob jemand vertrauenswürdig ist, um über Fragen wie seinen Anspruch auf Leistungen zu entscheiden.
Auf Twitter: Omer Tene, VizepräsidentDie gemeinnützige Organisation IAPP (International Association of Privacy Professionals) erklärte, dass das Urteil „einen typischen Brüsseler Ansatz für neue Technologien und Innovationen darstellt“. Passen Sie sich im Zweifelsfall an. Wenn die Vorschläge angenommen werden, wird laut Tene ein „riesiges regulatorisches Ökosystem“ entstehen, das nicht nur Entwickler von KI-Systemen, sondern auch Importeure, Händler und Benutzer anzieht und eine Reihe nationaler und nationaler Regulierungsbehörden schaffen wird; in der gesamten EU.
Dieses Ökosystem wird jedoch nicht das erste sein„Es ist an der Zeit, „Big Tech“ einzuschränken“, sagt Michael Veale, Dozent für digitale Rechte und Vorschriften am University College London. „Sein Fokus liegt in erster Linie auf weniger bekannten Anbietern von Geschäfts- und Entscheidungstools, deren Arbeit sich oft der Kontrolle der Aufsichtsbehörden oder ihrer eigenen Kunden entzieht.“
Es ist nicht bekannt, welche Änderungen vorgenommen wurdenin diesem Vorschlagsentwurf, während sich die politischen Entscheidungsträger der EU auf eine offizielle Ankündigung am 21. April vorbereiten. Sobald jedoch eine Verordnung vorgeschlagen wird, unterliegt sie aufgrund der Rückmeldungen der Abgeordneten Änderungen und muss in jedem Nationalstaat separat umgesetzt werden.
Warum wird ein neues Gesetz benötigt?
Ein Plan zur Regulierung der KI wird bereits seit Längerem diskutiert.Zeit. Bereits im Februar 2020 veröffentlichte die Europäische Kommission ein Weißbuch, in dem sie Pläne zur Regulierung „risikoreicher“ Anwendungen künstlicher Intelligenz darlegte. Allerdings geht aus dem neuen Entwurf nicht ganz klar hervor, wie genau „hohes Risiko“ bestimmt werden soll.
Laut Entwurfsentwurf das HauptzielDas Ziel der Kommission besteht hier darin, das Vertrauen der Öffentlichkeit in KI durch Kontrolle und Gegenkontrolle auf der Grundlage von EU-Werten zu stärken. Ziel ist es, die Einführung sogenannter „vertrauenswürdiger“ und „menschenzentrierter“ KI zu fördern. Dies gilt nicht nur für „hochriskante“ Anwendungen, sondern für jeden, der mit einer Person interagiert.
Was passiert, wenn das Gesetz verabschiedet wird?
Wenn der Vorschlagsentwurf angenommen wird, wird dies der Fall seinDies wird dazu führen, dass die EU bei bestimmten KI-Anwendungen eine starke Position einnimmt. Einige Nutzungen unterliegen Kontrollen, die denen der EU-Verordnung zum digitalen Datenschutz im Rahmen der DSGVO-Gesetzgebung ähneln.
Zu den EU-Anforderungen gehört die SicherstellungSicherheit und Gewährleistung der gleichbleibenden Genauigkeit der KI – unter der Bedingung, dass „alle schwerwiegenden Vorkommnisse oder Störungen im Betrieb des KI-Systems, die eine Pflichtverletzung darstellen, spätestens innerhalb von 15 Jahren der Aufsichtsbehörde gemeldet werden.“ ;Tage später wurde mir das bewusst.
Es ist bemerkenswert, dass die Kommission vermieden hatVorschläge zum Verbot der Verwendung der Gesichtserkennung an öffentlichen Orten. Laut einem durchgesickerten Entwurf Anfang letzten Jahres dachte sie über die Idee nach.
Es ist nicht bekannt, an welchen Änderungen möglicherweise Änderungen vorgenommen wurdenDies ist ein Entwurf eines Vorschlags, da sich die EU-Politiker auf eine offizielle Ankündigung am 21. April vorbereiten. Sobald die Verordnung vorgeschlagen wird, kann sie sich jedoch nach Erhalt der Rückmeldungen der Abgeordneten ändern und muss in jedem Nationalstaat separat umgesetzt werden.
Dies ist nicht das erste Mal, dass Europa über Regulierung sprichtTechnologieindustrie. Daher wollen die EU-Behörden Google und Facebook dazu zwingen, Verlage für Nachrichten zu bezahlen, und Anfang des Jahres riefen europäische Politiker die Leiter von Technologiegiganten an, um Gesetze zur Begrenzung ihres Monopols zu erörtern. In jedem Fall sehen die ausgearbeiteten Gesetze eine 10% ige Umsatzstrafe für Technologiegiganten vor, um ihr Monopol zu begrenzen.
weiter lesen
Die erste genaue Weltkarte wurde erstellt. Was ist los mit allen anderen?
Die NASA erklärte, wie sie Marsproben zur Erde liefern werden
Ein Triebwerk für ein Orbitalflugzeug wurde in Russland getestet
Allgemeine Datenschutzverordnung, AllgemeinDie Datenschutz-Grundverordnung (DSGVO) ist eine Verordnung der Europäischen Union, mit der das Europäische Parlament, der Rat der Europäischen Union und die Europäische Kommission den Schutz personenbezogener Daten aller Personen in der Europäischen Union (EU) stärken und vereinheitlichen. Die Verordnung zielt auch auf den Export von Daten aus der EU ab.
Die DSGVO zielt in erster Linie darauf ab, dies sicherzustellenden Bürgern die Kontrolle über ihre eigenen personenbezogenen Daten zu geben und den Regulierungsrahmen für internationale Wirtschaftsbeziehungen durch eine Vereinheitlichung der Regulierung innerhalb der EU zu vereinfachen.
Das soziale Kreditsystem ("das sozialeRating “,„ System des sozialen Vertrauens “) - ein System zur Bewertung einzelner Bürger oder Organisationen anhand verschiedener Parameter, deren Werte mithilfe von Massenbeobachtungsinstrumenten und Big-Data-Analysetechnologien ermittelt werden. Es wurde erstmals in den 2010er Jahren von der chinesischen Regierung umgesetzt.