ニューラルネットワークは、アルゴリズムや他の人々をだますためにスピーチを偽造しました
シカゴ大学の科学者
研究者たちは、攻撃者は、パブリックドメインにある被害者の声を録音し、ライブで通信してスピーチを録音する機能を持っていました。トレーニング中、ニューラルネットワークは音声だけでなくイントネーションのある音色も考慮に入れていることに注意してください。
さらに、著者はすでに訓練されたものを使用しましたパブリックドメインで見つけることができる神経ネットワーク。彼らは2つを選びました：SV2TTSとAutoVC。モデルをトレーニングするために、著者は3つの公開データセット（VCTK、LibriSpeech、SpeechAccent）からの90人の音声録音を使用しました。
その結果、研究者はケースの約 50% でニューラル ネットワークによって合成された音声を使用して、アカウントに正常にログインしました。また、アルゴリズムと会話するとき、人は本物の声と偽の声を 50% 区別できませんでした。
ニューラルネットワークは、顔認識システムをだますために化粧を適用するのに役立ちました
イスラエル大学の研究者の名前にちなんで命名ベングリオンは、化粧を利用して顔認識システムを欺くニューラルネットワークを作成しました。彼女は、デバイスが最も頻繁に読み取る外観の特徴を判断し、システムが顔を認識できないようにする特殊メイクを選択します。
動作中、アルゴリズムは最初に次の処理を行います。その人の写真、次に同性の他の人の写真。次に、修正が必要な特徴が存在する主な領域を示すヒート マップが作成されます。この後、システムはメイクアップを施した新しい顔の画像を作成し、反応が停止するまで一般的な顔認識システムに対してテストします。
最適なメイクができたら、塗ることができます。著者らは、顔認識システムの精度が47.5％から1.2％に低下することに注目しています。
ニューラルネットワークは、識別システムを欺くための普遍的な顔を作りました
イスラエルの研究者がニューラルネットワークを作成認識システム用に多数の性格をシミュレートできる顔の画像を生成します。開発者によると、彼らのアルゴリズムは「普遍的な」顔を作るそうです。たとえば、9 つのそのような画像は、オープン データベースからの少なくとも 40% の人々の写真を置き換えることができます。
その結果、システムは、40〜60％のケースで陽性として正常に識別された顔を生成しました。彼らはこれのためにたった9枚の生成された写真を使用しました。
ニューラルネットワークは目を欺き、完璧なカモフラージュを作成します
ブリストル大学の科学者たちは、環境を分析し、オブジェクトに最適な色を選択するニューラル ネットワーク。彼らは、彼らのアルゴリズムは、進化生物学者がさまざまな生物種の色がどのように変化したか、またそれが何に依存したかを理解するのに役立つと指摘した。
独自のアルゴリズムを作成するために、研究者は一連の遺伝的アルゴリズムと深層学習を使用しました。最終的には、数色で人間の観察者からの入力がほとんどない数百万のテンプレートが作成されました。
この方法はボランティアでテストされました。さまざまな背景に物体が描かれた写真を見て、その物体が見えたらすぐにボタンを押すというものでした。そのたびに、アルゴリズムは色とパターンのセットを、最も見にくい、または最も見やすいものに減らしました。カモフラージュのためのカラーリングを見つけるか、目立ちたいかによって異なります。
他のニューラルネットワークをだますニューラルネットワーク
科学者は、次のことを試みるニューラル ネットワークを作成しました。偽の分類子との戦い。新しいアルゴリズムは、画像やビデオに特殊なノイズを挿入し、他の分類器にコンテンツがオリジナルで編集されていないものとして認識させることができます。
Речь идет о дипфейках — это контент, в котором 人は、自分の顔や顔の表情を、たとえば有名なスター、俳優、政治家に故意に変更して、自分が行ったことも言ったこともないことで人を危険にさらします。当然のことながら、ディープフェイクの後、ビデオまたは写真が編集されたかどうかを認識するニューラルネットワークが登場しました。
これの開発の次の段階で対立、ディープフェイクを認識するためのアルゴリズムを欺くニューラルネットワークが登場しました。欺くニューラルネットワークは、まだ未知のものを含む、あらゆるディープフェイク分類器に適応する可能性があります。その結果、このアルゴリズムは、ビデオの結果が圧縮されない限り、99％のケースで分類子を欺くことができます。圧縮の場合、成功率は60〜90％に低下します。
続きを読む：
AIは、科学者が50年間戦ってきた生物学的問題を解決しました
タスクに30兆年ではなくミリ秒：中国は新しい量子コンピューターを導入しました
科学者たちは、COVID-19に感染できない人を探しています。彼らのデータに基づいて、彼らは薬を作ります