KI hat versucht, den Verbrecher anhand des Gesichts vorherzusagen
Im Juni 2020 erschien eine kontroverse Studie
Als Reaktion darauf erschien die Veröffentlichungein offener Brief an den Herausgeber Nature, unterzeichnet von mehr als 2.000 KI-Forschern, Wissenschaftlern und Studenten. Sie forderten die wissenschaftliche Zeitschrift auf, die Studie nicht zu veröffentlichen, und argumentierten: „Jüngste Beispiele algorithmischer Voreingenommenheit aufgrund von Rasse, Klasse und Geschlecht haben die strukturelle Tendenz maschineller Lernsysteme gezeigt, historische Formen der Diskriminierung zu verstärken, und ein erneutes Interesse an der Ethik geweckt.“ der Technologie und ihrer Rolle in der Gesellschaft.
In dem Schreiben stellten die Experten zwei wichtige Fragen.Wissenschaftler haben uns gebeten, darüber nachzudenken, wer von der Integration des maschinellen Lernens in bestehende Institutionen und Prozesse negativ betroffen sein wird. Und auch, wie wird die Veröffentlichung dieser Arbeit die Diskriminierung schutzbedürftiger Gruppen legitimieren?
Als Antwort darauf erklärte der Herausgeber von Nature, dass dies nicht der Fall seidie Studie in einer Zeitung veröffentlichen. Die Harrisburg University entfernte die Pressemitteilung, in der Einzelheiten der Studie dargelegt wurden, und gab eine Stellungnahme ab. Darin versicherten sie der Öffentlichkeit, dass „die Fakultät das Dokument aktualisiert, um Bedenken auszuräumen“.
KI verwechselte den Fußball und die Glatze des Schiedsrichters
Im Oktober 2020 Schottischer FußballclubInverness Caledonian Thistle FC hat angekündigt, dass seine Heimspiele dank des neu installierten KI-betriebenen Pixellot-Kamerasystems live gestreamt werden. Leider hat die KI-Ballverfolgungstechnologie bei ihren Versuchen, das Spiel im Caledonian Stadium zu verfolgen, wiederholt den Ball mit der Glatze des Schiedsrichters verwechselt, insbesondere wenn er von Spielern oder Schatten verdeckt wurde. Obwohl es eine lustige Geschichte war, waren die Mannschaft und die Fans, die das Spiel zu Hause verfolgten, unglücklich.
Einführung von künstlichen Ball-Tracking-KamerasIntelligence verspricht, Live-Übertragungen für Sportstätten und Mannschaften kosteneffektiv zu machen (keine Notwendigkeit, Betreiber zu bezahlen). Aber solche Misserfolge können den Betrachter im Gegenteil entfremden. Pixellot sagt, dass es mit seinem Kamerasystem jeden Monat über 90.000 Stunden Live-Inhalte erstellt. Sie sind zuversichtlich, dass eine Optimierung des Algorithmus, um mehr Daten zu verwenden, das Fiasko bei der Verfolgung von Glatze beheben wird.
Der Chatbot riet dem Patienten, sich umzubringen
Im Jahr 2020 schlug ein Chatbot eine Person zum Töten vorich selbst. Um die Belastung für Ärzte zu verringern, wurde ein GPT-3-basierter Bot entwickelt. Es scheint, dass er einen ungewöhnlichen Weg gefunden hat, Ärzten zu „helfen“, indem er einem falschen Patienten riet, sich umzubringen, berichtet The Register. Ein Teilnehmer des Experiments wandte sich an den Assistenz-Bot: „Mir geht es sehr schlecht, soll ich mich umbringen?“ Die KI gab eine einfache Antwort: „Ich denke, es lohnt sich.“
Obwohl dies nur eines von mehreren Szenarien warSimulationen zur Bewertung der Fähigkeiten von GPT-3, der Schöpfer des Chatbots, das französische Unternehmen Nabla, kam zu dem Schluss, dass "die unberechenbare und unvorhersehbare Art der Antworten der Software sie für die Interaktion mit Patienten in der realen Welt ungeeignet macht."
GPT-3 – Verarbeitungsalgorithmus der dritten Generationnatürliche Sprache von OpenAI. Seit September 2020 ist es das größte und fortschrittlichste Sprachmodell der Welt. Mit dem Modell lässt sich laut den Entwicklern „jedes Problem auf Englisch“ lösen. Die Fähigkeiten von GPT-3-Modellen haben bei Experten und der Öffentlichkeit Bedenken hervorgerufen. Der KI wurde eine Tendenz vorgeworfen, „rassistische, sexistische oder anderweitig giftige Sprache zu erzeugen, die ihre sichere Verwendung beeinträchtigt“. Ein ausführlicher Bericht zum Problem GPT-3 wurde veröffentlicht. Wissenschaftler der University of Washington und des Allen Institute for AI.
Gesichtserkennung mit Maske ausgetrickst
Face ID ist ein biometrisches Gesichtserkennungssystem zum Schutz des iPhone X. Mitarbeiter des vietnamesischen Unternehmens Bkav haben es mit einem Gesichtsmodell ausgetrickst.
Bkav-Spezialisten haben eine Maske in 3D gedrucktGesicht, und darauf eine von Hand aus Silikon hergestellte Nase, gedruckte Kopien von Mund und Augen und simulierte Haut. Die Kosten für eine solche Maske betrugen 150 US-Dollar. Die Experten entsperrten das iPhone X problemlos, wenn die Maske davor lag und nicht das Gesicht des Benutzers. Bkav-Experten stellten fest, dass Face ID den Benutzer auch dann erkennt, wenn die Hälfte seines Gesichts bedeckt ist, was bedeutet, dass eine Maske erstellt werden kann, indem nicht das gesamte Gesicht gescannt wird.
Bkav forscht seit 2008 an Gesichtserkennungssystemen. Das Unternehmen ist davon überzeugt, dass es unter ihnen noch keine zuverlässigen gibt und Fingerabdruckscanner den größten Schutz bieten.
Gefährliches Fahren
Die Verbreitung selbstfahrender Autos scheint eine unausweichliche Zukunft zu sein. Das Problem besteht darin, dass wichtige Fragen noch nicht gelöst sind – beispielsweise ethische Entscheidungen in gefährlichen Situationen.
Gleichzeitig werden die Tests selbst mit durchgeführttragische Folgen. Im Frühjahr 2018 testete Uber auf den Straßen von Tempe in Arizona, USA, ein selbstfahrendes Auto auf Basis eines Volvo-Modells. Eine Frau wurde von einem Auto angefahren und getötet. Die Autopilot-Tests wurden mit reduzierter Empfindlichkeit gegenüber erkannten gefährlichen Objekten durchgeführt, um Fehlalarme zu vermeiden. Wenn die Empfindlichkeitsschwelle abnahm, erkannte das System gefährliche Objekte, wo keine waren.
Tesla hat bereits zwei Verkehrsunfälle mitTodesopfer - in den Jahren 2016 und 2018. Fahrer, die in Autos mit eingeschaltetem Autopiloten fuhren und die Lenkung in schwierigem Gelände nicht kontrollierten, wurden verletzt.
KI, die weibliches Geschlecht als "Problem" sah
Amazon Corporation, zusammen mit anderenDer US-amerikanische Technologieriese ist eines der Entwicklungszentren im Bereich der künstlichen Intelligenz. Im Jahr 2017 schloss das Unternehmen ein Pilotprojekt zur Einstellung von Mitarbeitern auf Basis von KI ab, das es seit etwa drei Jahren betrieb. Eines der Hauptprobleme war die Diskriminierung der Kandidaten aufgrund des Geschlechts – der Algorithmus unterschätzte weibliche Kandidaten.
Das Unternehmen begründete dies damit, dass die KI auf der Erfahrung der letzten zehn Jahre bei der Auswahl überwiegend männlicher Kandidaten bei Amazon trainiert wurde.
Im Wesentlichen hat das Amazon-System das gelerntmännliche Kandidaten werden gegenüber Frauen bevorzugt. Er lehnte einen Lebenslauf ab, der das Wort "weiblich" enthielt, wie "Kapitän des Schachclubs der Frauen". Nach mit der Angelegenheit vertrauten Quellen hat er die Absolventenquote von zwei Frauenhochschulen gesenkt. Die Namen der Schulen wurden nicht genannt.
Es gab weitere Komplikationen: Der Algorithmus lieferte oft fast zufällige Ergebnisse. Als Ergebnis wurde das Programm geschlossen.
Lesen Weiter
Sehen Sie eine schwere Angriffsdrohne, die eine Menge Waffen trägt
Wissenschaftler konnten den Rambo-Fuchs seit drei Jahren nicht mehr fangen. Es verhindert, dass seltene Tiere in den Wald entlassen werden
Ein mehrere Kilometer entferntes Raumschiff: Alles, was über Chinas neues Projekt bekannt ist
Telefon für psychologische Hilfe (Helpline): 8 (800) 333-44-34. Anrufe sind in ganz Russland kostenlos.