Onderzoekers van de Universiteit van Californië, San Diego hebben algoritmen ontwikkeld om spraak te verwijderen
Deskundigen hebben eerder verschillende benaderingen geprobeerdhet opruimen van de spraak van bots, maar ze bleken niet effectief te zijn. Bij het opsommen van giftige woorden worden woorden weggelaten die, als ze buiten hun context en op zichzelf worden gebruikt, normaal lijken, maar aanstootgevend worden als ze in combinatie met andere worden gebruikt. Het proberen om giftige spraak uit trainingsgegevens te verwijderen is tijdrovend en verre van betrouwbaar. Soortgelijke problemen doen zich voor bij het ontwikkelen van een neuraal netwerk dat giftige spraak zou detecteren.
Nu computerwetenschappersvan de Universiteit van Californië in San Diego probeerde een nieuwe methode. Ten eerste stopten ze ‘schadelijke’ signalen in een vooraf getraind taalmodel om het te dwingen giftige inhoud te genereren. De onderzoekers trainden vervolgens een model dat ze ‘kwaad’ noemden om de waarschijnlijkheid te voorspellen dat inhoud aanstootgevend zou zijn. De ingenieurs trainden vervolgens het ‘goede model’, dat werd geleerd om alle inhoud te vermijden die hoog werd gewaardeerd door het ‘kwaadaardige model’.
Als gevolg hiervan bevestigden de auteurs van de ontwikkeling dat hunhet "goede model" bleek effectiever dan de modernste methoden. De onderzoekers presenteerden hun werk op de AAAI Online Conference on Artificial Intelligence.
Lees verder:
Er wordt al eeuwen op gejaagd: wat weten we over de planeet Vulcan naast de zon
Natuurkundigen hebben experimenteel een nieuwe fundamentele wet voor vloeistoffen bevestigd
Astronomen hebben de bron gevonden van mysterieuze radio-uitbarstingen die uit de ruimte komen