Forskere ved University of California, San Diego har udviklet algoritmer til at rense tale fra
Eksperter har tidligere prøvet forskellige tilgange tilrense talen af bots, men de viste sig at være ineffektive. Ved at angive giftige ord udelader man ord, der, når de bruges uden for kontekst og alene, virker normale, men som bliver stødende, når de bruges i kombination med andre. At forsøge at fjerne giftig tale fra træningsdata er tidskrævende og langt fra pålideligt. Lignende problemer opstår, når man udvikler et neuralt netværk, der kan registrere giftig tale.
Nu datalogi specialisterfra University of California i San Diego prøvede en ny metode. For det første fodrede de "skadelige" signaler ind i en foruddannet sprogmodel for at tvinge den til at generere giftigt indhold. Forskerne trænede derefter en model, de kaldte "ond" til at forudsige sandsynligheden for, at indhold ville være stødende. Ingeniørerne trænede derefter den "gode model", som blev undervist i at undgå alt indhold, der blev højt vurderet af den "onde model."
Som et resultat bekræftede forfatterne af udviklingen, at deresden "gode model" viste sig at være mere effektiv end de mest moderne metoder. Forskerne præsenterede deres arbejde på AAAI Online Conference on Artificial Intelligence.
Læs mere:
Det er blevet jaget i århundreder: hvad ved vi om planeten Vulcan ved siden af Solen
Fysikere har eksperimentelt bekræftet en ny grundlæggende lov for væsker
Astronomer har fundet kilden til mystiske radioudbrud, der kommer fra rummet