Tudósok: lehetetlen lesz irányítani a valódi mesterséges intelligenciát

Az emberiség mesterséges intelligenciával való elpusztításának gondolata már régóta szóba került. A tudósok megosztották a véleményüket

véleményt arról, hogy az emberiség képes-e irányítani a valóban magas szintű számítógépes szuperintelligenciát.
Beszéljétek meg

A csapás az, hogy a jelent irányítani akarjuka mesterséges intelligenciának, amely messze meghaladja az emberi megértést, szüksége lesz ennek a szuperintelligenciának a szimulációjára, amelyet elemezhetünk (és irányíthatunk). De ha ezt nem tudjuk megérteni, akkor lehetetlen ilyen szimulációt létrehozni.

Ebben az esetben az emberek nem tudnak AI-hoz telepítenikorlátozó szabályok, mint például a "ne bántsd az embereket". Bár az emberiség nem tud ilyen mesterséges intelligenciát létrehozni, továbbra sem világos, hogy ezt a küszöböt mikor lépik át.