ヒューマンエラーに基づくアルゴリズムはAIトレーニングに役立ちます

心理学者のフェリックス・ウォーネケンとマイケル・トマセロによる人間の社会性に関する古典的な実験によると

生後18か月の赤ちゃんは知的に、どのように行動するかを観察しています。男が本の山を閉じたキャビネットに運びます。彼はクローゼットに近づくと、ぎこちなく本をクローゼットのドアに数回叩き、それから困惑した音を立てました。

次に、驚くべきことが起こります。子供は助けを提供します。その人の目的を特定すると、赤ちゃんはクローゼットに行き、ドアを開けて、男性が自分の本を中に入れることができるようにします。しかし、そのような限られた人生経験を持つ幼児は、どのようにしてそのような結論を出すことができますか?

最近、コンピューター科学者はこの質問をコンピューターにリダイレクトしました:マシンはどのように同じことをすることができますか?

形成する重要なコンポーネントそのような理解は誤りです。幼児が彼の失敗に基づいて人の目標を推測することができるだけであるように、人の目標を決定する機械は私たちの誤った行動と計画を考慮に入れなければなりません。

この社会的知性を再現するために機械では、マサチューセッツ工科大学のコンピュータサイエンスおよび人工知能研究所(CSAIL)と脳認知科学部門の研究者が、計画が失敗した場合でも、目標と計画を特定できるアルゴリズムを作成しました。

このタイプの研究は、最終的にはさまざまな支援技術、コラボレーションまたはケアロボット、およびSiriやAlexaなどのデジタルアシスタントを強化するために使用されます。

「エージェント」と「オブザーバー」は、いかに新しいかを示していますMITのアルゴリズムは、計画が失敗した場合でも、目標と計画を特定することができます。ここで、エージェントは、オブザーバーが可能であると考える青い宝石に到達するための誤った計画を立てます。クレジット:マサチューセッツ工科大学

「エラーを説明するこの機能には、マサチューセッツ工科大学(MIT)の学生であり、新しい研究論文の筆頭著者であるTang Chih-Xuan、Ph.D。は、確実に結論を導き出し、私たちに代わって行動する機械を構築するために重要であると説明しています。 「さもなければ、AIシステムは、私たちが高次の目標を達成できなかったため、それらの目標は最終的に望ましくないと誤って結論付ける可能性があります。」

モデルを作成するために、チームはGenは、シンボリックAI計画とベイジアン推論を組み合わせるためにMITで最近開発された新しいAIプログラミングプラットフォームです。ベイジアン推論は、不確実な信念を新しいデータと組み合わせる最適な方法を提供し、財務リスク評価、診断テスト、および選挙予測に広く使用されています。

アルゴリズムを作成するとき「順次検索リバースプランニング(SIPS)」の科学者たちは、人間の計画の一般的な方法に影響を与えましたが、これはほとんど最適ではありません。人はすべてを事前に計画するのではなく、部分的な計画を立てて実行し、新しい結果に基づいて再度計画を立てることができます。 「事前に」考えることが不十分なためにエラーが発生する可能性がありますが、このタイプの考え方は認知的負荷を軽減します。

科学者たちは自分たちの研究が基礎を築くことを期待している人間の目標、計画、価値観を真に理解する機械を作成するために必要な、新しい哲学的および概念的な枠組み。人間を不完全な思考者としてモデル化するという新しい基本的なアプローチは、エンジニアにとって非常に有望に思えます。 

また読む

アンデスで発見された20の新種の動植物

高速移動のための高速道路が宇宙にあります。フライトはどのように変わりますか?

気候変動を恐れない植物と名付けられました。それは10億人を養います