Das Experiment "VKontakte" trainiert die KI, um Beleidigungen in Kommentaren zu erkennen

In 24 Stunden wird VKontakte zwei neue Funktionen testen. Den Entwicklern zufolge wird die Neuerung Abhilfe schaffen

Plattformbenutzer werden seltener darauf stoßenmit verschiedenen Arten von Unverträglichkeiten. Dabei geht es unter anderem um Verfolgung aufgrund der Nationalität, Beleidigungen aufgrund der Religionszugehörigkeit und Drohungen. Plattformadministratoren können in den Community-Einstellungen einen speziellen Filter für feindselige Äußerungen aktivieren. Was die Kommentatoren betrifft, so werden sie einen Vorschlag sehen, beleidigende Bemerkungen abzulehnen. Beide Tools arbeiten auf Basis von Algorithmen, darunter einem neuronalen Netzwerk, das Beleidigungen erkennt.

Heute, 4. November, für einen Tag, an demEs wird ein Experiment zur Einführung neuer Algorithmen geben. In den Community-Einstellungen wird es möglich sein, den Filter feindlicher Aussagen zu aktivieren. Neuronale Netze löschen Kommentare, die direkte Bedrohungen für das Leben und die Gesundheit des Menschen enthalten. Der Administrator sieht jedoch alle Kommentare, die der Filter abgelehnt hat. Er hat die Wahl, gelöschte Repliken wiederherzustellen oder den Autor auf die schwarze Liste der Community zu setzen. Es ist erwähnenswert, dass der neue, experimentelle Hassredenfilter jederzeit ein- oder ausgeschaltet werden kann.

Das neuronale Netzwerk der Plattform lernt und entwickelt sich weiter. Wie auf VKontakte angegeben, werden die Ergebnisse des Experiments zur weiteren Schulung und Verbesserung der Filterleistung verwendet.

Eine ähnliche Funktion ist bereits in vielen sozialen Netzwerken verfügbar.Beispielsweise erkennt Instagram einen feindseligen Kommentar und bevor der Nutzer ihn veröffentlicht, fordert die Plattform den Nutzer dazu auf, sich abzumelden, und weist ihn darauf hin, dass der anstößige Inhalt möglicherweise entfernt wird. 

Das Problem der Beleidigungen im Internet hat seit langem die Aufmerksamkeit von Wissenschaftlern und Forschern auf sich gezogen, aber in den letzten Jahren hat es viel Aufmerksamkeit erhalten.

Lesen Sie auch

Die jährliche Mission in der Arktis ist beendet und die Daten sind enttäuschend. Was erwartet die Menschheit?

Wissenschaftler versuchen zu verstehen, wie lange ein Neutron lebt. Warum ist es so schwierig und wichtig?

Astronomen haben den Quasar mit den stärksten Winden entdeckt