Wie hat alles angefangen?
Im September 2021 wurde ein neuer UN-Bericht veröffentlicht. Experten untersuchten, wie Länder und Unternehmen
Gestern UN-Menschenrechtschef MichelBachelet, forderte ein Moratorium für den Einsatz von Technologien der künstlichen Intelligenz, die eine ernsthafte Bedrohung der Menschenrechte darstellen. Einschließlich Systeme zum Scannen von Personen, die Personen an öffentlichen Orten verfolgen. Sie merkte an, dass Länder KI-Anwendungen, die nicht den internationalen Menschenrechtsnormen entsprechen, sofort verbieten sollten.
Wo ist der Einsatz von KI inakzeptabel?
Anträge auf SperrungDazu gehören staatliche „Social Rating“-Systeme, die Menschen anhand ihres Verhaltens bewerten, und bestimmte KI-basierte Tools, die Menschen in Gruppen wie ethnische Zugehörigkeit oder Geschlecht einteilen.
Technologien basierend auf künstlichenGeheimdienstinformationen „können eine Kraft zum Guten sein“ und auch zu „negativen, sogar katastrophalen Folgen“ führen, wenn sie ohne Berücksichtigung der Auswirkungen auf die Menschenrechte eingesetzt werden, sagte Bachelet in einer Erklärung.
„Es geht nicht um den Mangel an KünstlichemIntelligenz“, erklärte Peggy Hicks, Leiterin der thematischen Interaktion beim UN-Menschenrechtszentrum, Reportern. Sie wandte sich an die Medien, während sie den Bericht in Genf vorstellte. „Der Punkt ist, dass wenn KI in diesen sehr wichtigen Funktionsbereichen im Zusammenhang mit Menschenrechten eingesetzt werden soll, dies korrekt erfolgen muss. Und wir haben einfach nicht die Struktur geschaffen, die das gewährleistet.“
Bachelet forderte kein vollständiges VerbotGesichtserkennungstechnologie, stellte jedoch fest, dass Regierungen aufhören sollten, das Verhalten von Menschen in Echtzeit zu scannen. Beispielsweise zur Beurteilung der Mitarbeiterleistung. Sie müssen sicherstellen, dass die Technologie korrekt ist und dass die KI unvoreingenommen ist und den Datenschutzstandards entspricht.
Der Bericht äußerte auch Bedenken bezüglichInstrumente, die versuchen, den emotionalen und mentalen Zustand von Menschen zu bestimmen, indem sie ihre Mimik oder Körperbewegung analysieren. Experten betonen, dass solche Technologien Verzerrungen, Fehlinterpretationen und fehlender wissenschaftlicher Grundlage unterliegen.
„Die Nutzung von Systemen durch staatliche BehördenDas Erkennen von Emotionen, um beispielsweise Personen für die Inhaftierung oder Festnahme durch die Polizei hervorzuheben oder den Wahrheitsgehalt von Aussagen bei Verhören zu beurteilen, birgt die Gefahr, dass Menschenrechte wie Privatsphäre, Freiheit und Gerechtigkeit der Justiz untergraben werden “, heißt es in dem Bericht.
Wo ist das Problem beim Einsatz von KI besonders akut?
Obwohl die Namen bestimmter Länder im Bericht aufgeführt sindwerden nicht erwähnt, es lohnt sich, China zu erwähnen. Erinnern wir uns daran, dass die Behörden im Mai ein Programm gestartet haben, um Emotionserkennungskameras an Uiguren in der westlichen Region Xinjiang zu testen. Und Anerkennung der Uiguren selbst. Erinnern wir uns daran, dass Human Rights Watch bereits 2018 einen Bericht über die Verfolgung der muslimischen Bevölkerung in der chinesischen Region Xinjiang veröffentlichte. Nach Angaben der Organisation wurden dort in den letzten Jahren massenhaft und oft ohne Grund Uiguren festgehalten und in Gefängnissen und Bildungslagern untergebracht; Millionen von Menschen stehen unter ständiger Videoüberwachung und ihr sozialer Status und ihr Schicksal hängen von den im „Sozialkredit“-System gesammelten Punkten ab.
Wichtige Autoren des Berichts sagten jedoch, dass die Nennung bestimmter Länder nicht in ihrem Zuständigkeitsbereich liege und sogar kontraproduktiv sein könnte.
„Im chinesischen Kontext, wieund in anderen Zusammenhängen sind wir besorgt über Transparenz und diskriminierende Anwendungen, die auf bestimmte Gemeinschaften abzielen“, erklärt UN-Sprecherin Peggy Hicks.
Sie zitierte mehrere Gerichtsfälle in den USA und Australien, in denen künstliche Intelligenz missbraucht wurde.
Einer der lautesten Präzedenzfälle in den Vereinigten Staaten -Situation bei Amazon. Dieses Unternehmen ist eines der Entwicklungszentren im Bereich der künstlichen Intelligenz. Im Jahr 2017 schloss das Unternehmen ein Pilotprojekt zur KI-basierten Rekrutierung ab, das es seit fast drei Jahren lief. Eines der Hauptprobleme war die geschlechtsspezifische Diskriminierung der Kandidaten – der Algorithmus unterschätzte die Einschätzungen der weiblichen Kandidaten.
Inzwischen hat das Gericht in Australien einen bahnbrechendenPräzedenzfall. Künstliche Intelligenzsysteme können nun in Patentanmeldungen rechtlich als Erfinder anerkannt werden. Allerdings waren nicht alle mit dieser Entscheidung einverstanden.
Was ist das Endergebnis?
Die Empfehlungen des Berichts spiegeln die Ansichten vieler wiederPolitiker in westlichen Demokratien. Es ist wichtig, nicht nur das wirtschaftliche und soziale Potenzial der KI zu nutzen, sondern auch die wachsenden Bedenken hinsichtlich der Zuverlässigkeit von Tools zur Verfolgung und Profilierung von Personen auszuräumen.
US-Handelsministerin Gina Raimondo währendeine virtuelle Konferenz im Juni stärkte die Bedenken von UN-Beamten. "Es ist beängstigend, darüber nachzudenken, wie man damit diskriminierende Tendenzen weiter verstärken kann. Wir müssen sicherstellen, dass wir dies nicht zulassen."
Somit sind die europäischen Regulierungsbehörden bereitshaben Schritte unternommen, um die riskantesten KI-Anwendungen einzudämmen. Die vorgeschlagenen Regeln, die in diesem Jahr von Beamten der Europäischen Union festgelegt wurden, werden bestimmte Anwendungen von KI verbieten, wie etwa das Scannen von Gesichtern in Echtzeit, und andere Anwendungen, die die menschliche Sicherheit oder die Menschenrechte gefährden könnten, streng kontrollieren.
Lesen Weiter
Ein einzigartiges Boot verwandelt sich in zwei Minuten in ein U-Boot und ist für den Feind unsichtbar
Physiker haben Atome auf die niedrigste Temperatur der Welt abgekühlt
Das detaillierteste Modell des Universums wurde online veröffentlicht. Jeder kann es studieren