人工知能が人類を打倒、あるいは奴隷化するという考えは何十年もの間語られてきました。
キャッチは管理することです人間の理解をはるかに超えた超知能には、分析できるこの超知能のシミュレーションが必要になります。しかし、それを理解できなければ、そのようなシミュレーションを作成することは不可能です。
「害を及ぼさない」などのルール2021年の記事の著者らによると、AIがどのようなシナリオを思いつくかを理解していなければ、人間性を確立することはできないという。コンピューター システムがプログラマーの能力を超えたレベルで動作する場合、限界を設定することはできなくなります。
「スーパーインテリジェンス」は、「ロボット倫理」の旗印の下で通常研究される問題とは根本的に異なる問題である。研究者らはこう書いている。 「これは、超知性は多面的であるため、制御可能などころか、人間には潜在的に理解できない目標を達成するためにさまざまなリソースを動員する可能性があるためです。」
人工的なものを宣伝する場合インテリジェンス、私たちの制御を超えた超知能がいつ現れるかさえわからないかもしれません、それはとても理解できないです。これは、私たちがどちらの方向に向かっているのかについて真剣な質問をし始める必要があることを意味します。
出典:sciencealert、jair
イラスト: ラウ・ユヨン
</ p>