ほぼ吹き替え: Yandex は YouTube 動画の多声翻訳を学習しました

外国のビデオをその場で翻訳した Yandex ニューラル ネットワークを覚えていますか?会社は彼女を教育することで彼女を「アップグレード」した

大きなトリック。
話し合う

そのため、Yandex.Browser のユーザーは、ロシア語への多声ナレーション付きの英語でビデオを視聴できるようになりました。

最初の技術で音声翻訳に 2 つの合成音声 (男性 1 人、女性 1 人) を使用していた場合、現在は 12 の声があります。性別ごとに6つ。

ニューラル ネットワークは声をさまざまな話者に「分配」し、その後、Yandex 内で作成された AI モデルを使用して「記憶」すると報告されています。

そして、それはすべて非常に多層的に機能します。まず、1 つのニューラル ネットワークが音声をテキストに変換し、句読点を復元して文の境界を決定します。次に、別のニューラル ネットワークが音声のスペクトログラムを分析し、さまざまな人が話した断片をマークします。