Forscher der University of California in San Diego haben Algorithmen entwickelt, um Sprache zu bereinigen
Experten haben zuvor verschiedene Ansätze ausprobiertDie Reinigung der Sprache von Bots erwies sich jedoch als unwirksam. Beim Auflisten giftiger Wörter werden Wörter weggelassen, die, wenn sie außerhalb des Kontexts und einzeln verwendet werden, normal erscheinen, in Kombination mit anderen jedoch anstößig werden. Der Versuch, toxische Sprache aus Trainingsdaten zu entfernen, ist zeitaufwändig und alles andere als zuverlässig. Ähnliche Probleme treten bei der Entwicklung eines neuronalen Netzwerks auf, das toxische Sprache erkennt.
Jetzt Informatikspezialistenvon der University of California in San Diego haben eine neue Methode ausprobiert. Zunächst fütterten sie ein vorab trainiertes Sprachmodell mit „schädlichen“ Hinweisen, um es zur Generierung schädlicher Inhalte zu zwingen. Anschließend trainierten die Forscher ein Modell, das sie „böse“ nannten, um die Wahrscheinlichkeit vorherzusagen, dass Inhalte anstößig wären. Anschließend trainierten die Ingenieure das „gute Modell“, dem beigebracht wurde, alle Inhalte zu vermeiden, die vom „bösen Modell“ hoch bewertet wurden.
Als Ergebnis bestätigten die Autoren der Entwicklung, dass ihredas „gute modell“ erwies sich als effektiver als die modernsten methoden. Die Forscher stellten ihre Arbeit auf der AAAI Online Conference on Artificial Intelligence vor.
Weiter lesen:
Er wird seit Jahrhunderten gejagt: Was wissen wir über den Planeten Vulkan neben der Sonne?
Physiker haben ein neues Grundgesetz für Flüssigkeiten experimentell bestätigt
Astronomen haben die Quelle mysteriöser Funkstöße gefunden, die aus dem Weltraum kommen