Quasi Synchronisation: Yandex hat die mehrstimmige Übersetzung von YouTube-Videos gelernt

Erinnern Sie sich an das neuronale Netzwerk Yandex, das ausländische Videos im Handumdrehen übersetzte? Das Unternehmen hat sie „aufgewertet“, indem es sie unterrichtet hat

große Tricks.
Diskutieren

So können Benutzer von Yandex.Browser jetzt Videos auf Englisch mit mehrstimmiger Voice-Over-Übersetzung ins Russische ansehen.

Verwendete die Technologie ursprünglich zwei synthetisierte Stimmen für die Sprachübersetzung – eine männliche und eine weibliche –, sind es jetzt zwölf Stimmen. Sechs für jedes Geschlecht.

Es wird berichtet, dass das neuronale Netzwerk Stimmen an verschiedene Sprecher „verteilt“, wonach es sie „erinnert“, indem es KI-Modelle verwendet, die in Yandex erstellt wurden.

Und das ganze funktioniert recht vielschichtig:Zuerst übersetzt ein neuronales Netzwerk Sprache in Text, stellt die Interpunktion wieder her und bestimmt die Grenzen von Sätzen, und dann analysiert ein anderes das Spektrogramm der Stimme und markiert Fragmente, die von verschiedenen Personen gesprochen wurden.