MIT チームは、データ学習アルゴリズムと、たとえばデータを使用するディープ ニューラル ネットワークを組み合わせました。
人工知能システムを矛盾したデータに対して回復力のあるものにするために、研究者たちは教師あり学習防御の実装を試みてきました。
伝統的に、ニューラルネットワークは接続することを学びます指定された入力を持つ特定のラベルまたはアクション。たとえば、猫のタグが付けられた何千もの画像と、家やホットドッグのタグが付けられた画像を受信するニューラルネットワークは、新しい画像に猫のラベルを正しく付ける必要があります。
堅牢な人工知能システムでは、それらは同じ教師あり学習方法を、部分的に変更されたバージョンの画像でテストできます。ネットが同じラベル（猫）に当たった場合、画像が変化するかどうかは猫である可能性が高くなります。
クリティカルな状況でニューラル ネットワークを使用するにはセキュリティ シナリオでは、最悪の場合の想定に基づいてリアルタイムの意思決定を行う方法を見つけ出す必要があった、と論文の著者は説明しています。
したがって、チームはもう1つに依存しようとしましたラベル付けされた入力を出力にバインドする必要はなく、入力に応じて特定のアクションを強化することを目的とした機械学習の形式。このアプローチは、コンピューターにチェスと囲碁をするように教えるために一般的に使用されます。
著者は、新しいCARRLアルゴリズムは、ロボットが現実の世界で予測できない相互作用に安全に対処するのに役立つと信じています。
続きを読む
物理学者はブラックホールの類似物を作成し、ホーキングの理論を確認しました。それはどこにつながるのですか？
アルゴリズムは地球の中に新しい神秘的な層を発見しました
太陽のために、地球の大気はすべての遊離酸素を失います