Erstellt ein Tool, mit dem Verzerrungen in der Bildverarbeitung beseitigt werden können

Während die Ursachen für Verzerrungen in KI-Systemen vielfältig sind, ist eine der Hauptursachen für Verzerrungen stereotyp

Bilder, die in großen Datensätzen enthalten sind, die aus Online-Quellen gesammelt wurden, die von Ingenieuren verwendet werdenEs ist ein Zweig der KI, der es Computern ermöglicht, Menschen, Objekte und Handlungen zu erkennen.Da die Grundlage des maschinellen Sehens auf diesen Datensätzen aufbaut, können Bilder, die soziale Stereotypen und Vorurteile widerspiegeln,unbeabsichtigte Auswirkungen auf Computer-Vision-Modelle.

Um dieses Problem in ihr zu behebenUrsprünglich haben Forscher des Princeton Visual AI Lab ein Open-Source-Tool entwickelt, das potenzielle Beschädigungen in visuellen Datensätzen automatisch erkennt. Mit diesem Tool können Ersteller und Benutzer von Datensätzen Unterrepräsentationen oder stereotype Bildprobleme beheben, bevor Bildersammlungen zum Trainieren von Computer-Vision-Modellen verwendet werden. In verwandten Arbeiten veröffentlichten Mitglieder des Visual AI Lab einen Vergleich bestehender Techniken zur Verhinderung von Verzerrungen in Computer-Vision-Modellen selbst und schlugen einen neuen, effektiveren Ansatz zur Reduzierung von Verzerrungen vor.

Das erste Tool mit dem Namen REVISE verwendet statistische Techniken, um einen Datensatz aufMögliche Verzerrungen oder Probleme der Unterrepräsentation in drei Dimensionen: Objekt, Geschlecht und geografisch. 

REVISE wertet den Inhalt des Datensatzes aus.Verwenden vorhandener Bildanmerkungen und -messungen wie der Anzahl der Objekte, der kombinierten Anwesenheit von Objekten und Personen und des Herkunftslandes der Bilder. Unter diesen Messungen identifiziert das Tool Muster, die sich von der Medianverteilung unterscheiden.

In einem Datensatz identifizierte REVISE ein PotenzialGender Bias in Bildern, die Menschen (rote Rechtecke) und die Orgel eines Musikinstruments (blaue Rechtecke) darstellen. Eine Analyse der Verteilung der geschätzten dreidimensionalen Abstände zwischen einer Person und einem Organ ergab, dass Männer normalerweise so dargestellt wurden, als würden sie das Instrument tatsächlich spielen, während Frauen sich oft einfach im selben Raum wie das Instrument befanden. Bildnachweis: Princeton Visual AI Lab.

In einem der getesteten Datensätze zeigte REVISE beispielsweise, dass sich Bilder mit Menschen und Blumen zwischen Männern und Frauen unterschieden: Männer traten häufiger mit Blumen bei Zeremonien oder Treffen auf, Frauen eher in inszenierten Kulissen oder Gemälden. 

Sobald das Tool diese Art von erkenntAufgrund dieser Diskrepanzen „stellt sich die Frage, ob das eine völlig harmlose Tatsache ist oder ob etwas Wichtigeres vor sich geht, und das lässt sich nur sehr schwer automatisieren“, erklärt Olga Rusakovskaya, Assistenzprofessorin für Informatik und Hauptforscherin des Visual AI Lab.  

„Die Praxis, Datensätze im Computer zu sammelnDie Wissenschaft wurde bis vor kurzem nicht so gründlich studiert “, schließt die Co-Autorin Angelina Wang, eine Doktorandin der Informatik. Sie erklärt, dass die Bilder meistens „aus dem Internet stammen und die Leute nicht immer verstehen, dass ihre Bilder [in Datensätzen] verwendet werden. Wir müssen Bilder von unterschiedlicheren Personengruppen sammeln und dies mit Respekt tun. "

Lesen Sie auch:

Es ist möglich, einen thermonuklearen Reaktor auf der Erde zu schaffen. Was werden die Konsequenzen sein?

Der Doomsday-Gletscher erwies sich als gefährlicher als Wissenschaftler dachten. Wir erzählen die Hauptsache

Am dritten Krankheitstag verlieren die meisten COVID-19-Patienten ihren Geruchssinn und leiden häufig an einer laufenden Nase