AI システム、特に他のマシンを制御できるシステムはすでに懸念を引き起こしています。多くの
誰かがプログラムする必要があるとしましょう人間とは独立して学習できる、優れた人間の知性を備えた人工知能システム。そうすれば、インターネットに接続されたAIは、人類のすべてのデータにアクセスできるようになります。彼はまた、既存のすべてのプログラムを置き換えて、世界中のすべてのマシンを制御できるようになります。このユートピアまたはジストピアは起こりますか？ AIは癌を治療し、世界の平和をもたらし、気候の大惨事を防ぐことができるでしょうか？それとも人類を滅ぼし、地球を乗っ取るのでしょうか？
コンピューター科学者や哲学者は、人類に脅威を与えないように超知能 AI を制御できるかどうか疑問に思っています。
「世界を支配する超インテリジェントマシン、サイエンスフィクションのように聞こえます。しかし、特定の重要なタスクを完全に独立して実行するマシンはすでに存在し、プログラマーはこれをどのように学んだかを完全には理解していません。したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます」と、研究の共著者であるマックスプランク人間開発研究所の人と機械センターのデジタル動員グループの責任者であるマヌエルセブリアンは述べています。
科学者はどのように2つの異なるアイデアを探求してきました超インテリジェントAIを制御できます。一方では、スーパーインテリジェントAIの機能は、たとえば、インターネットや他のすべての技術デバイスから分離して外界に接続できないようにすることで、特に制限される可能性がありますが、これにより、スーパーインテリジェントAIの能力が大幅に低下し、人道的割り当てに対応できなくなります。 ..。そのような機会がなければ、AIは当初から、たとえば倫理原則をプログラムすることによって、人類の利益を満たす目標のみを追求するように動機付けられる可能性があります。ただし、研究者は、超インテリジェントAIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることも示しています。
彼らの研究では、チームは開発しました最初にAIの動作をシミュレートし、有害であると見なされた場合にそれを停止することにより、スーパーインテリジェントAIがいかなる状況でも人間に害を及ぼさないことを保証する理論的封じ込めアルゴリズム。しかし、注意深く分析すると、現在のコンピューティングパラダイムでは、そのようなアルゴリズムを構築できないことがわかります。
「問題を基本的なルールに分解すると理論的なコンピュータサイエンスでは、AIに世界を破壊しないように指示するアルゴリズムが、誤って自身の操作を停止する可能性があることが判明しました。それが起こった場合、封じ込めアルゴリズムが脅威を分析するかどうか、そして悪意のあるAIを封じ込めるためにそれを阻止したかどうかはわかりません。基本的に、これにより封じ込めアルゴリズムが使用できなくなります」と、人と機械センターのディレクターであるIyadRahwan氏は述べています。
これらの計算に基づいて、封じ込めの問題は実行可能ではありません。つまり、AIが世界に害を及ぼすかどうかを判断するための解決策を見つけるアルゴリズムはありません。
また見なさい：
アルゼンチン保健省は、「スプートニクV」を受け取った人々の副作用に関するデータを開示しました
Platypusは、哺乳類、鳥、爬虫類の遺伝的混合物であることが判明しました
中絶と科学：出産する子供たちに何が起こるか