I ricercatori dell’Università della California, a San Diego, hanno sviluppato algoritmi per pulire il parlato
Gli esperti hanno già provato diversi approcciripulire il discorso dei bot, ma si sono rivelati inefficaci. L'elenco delle parole tossiche esclude parole che, se usate fuori contesto e da sole, sembrano normali, ma diventano offensive se usate in combinazione con altre. Cercare di rimuovere il discorso tossico dai dati di addestramento richiede molto tempo ed è tutt’altro che affidabile. Problemi simili sorgono quando si sviluppa una rete neurale in grado di rilevare i discorsi tossici.
Ora specialisti in informaticadell'Università della California a San Diego ha provato un nuovo metodo. In primo luogo, hanno inserito segnali "dannosi" in un modello linguistico pre-addestrato per costringerlo a generare contenuti tossici. I ricercatori hanno quindi addestrato un modello che hanno chiamato “malvagio” per prevedere la probabilità che il contenuto fosse offensivo. Gli ingegneri hanno quindi addestrato il “modello buono”, a cui è stato insegnato a evitare tutti i contenuti altamente valutati dal “modello malvagio”.
Di conseguenza, gli autori dello sviluppo hanno confermato che il loroil "buon modello" si è rivelato più efficace dei metodi più moderni. I ricercatori hanno presentato il loro lavoro alla conferenza online dell'AAAI sull'intelligenza artificiale.
Leggi di più:
È stato cacciato per secoli: cosa sappiamo del pianeta Vulcano vicino al Sole
I fisici hanno confermato sperimentalmente una nuova legge fondamentale per i liquidi
Gli astronomi hanno trovato la fonte di misteriose esplosioni radio che provengono dallo spazio