Forskare: det kommer att vara omöjligt att kontrollera verklig artificiell intelligens

Tanken på att förstöra mänskligheten med artificiell intelligens har diskuterats länge. Forskare delade med sig av sina

en åsikt om huruvida mänskligheten kan kontrollera datorsuperintelligens på riktigt hög nivå.
Diskutera

Haken är att för att kontrollera nuetartificiell intelligens, långt bortom mänsklig förståelse, kommer att behöva en simulering av denna superintelligens som vi kan analysera (och kontrollera). Men om vi inte kan förstå detta är det omöjligt att skapa en sådan simulering.

I det här fallet kommer människor inte att kunna installera för AIrestriktiva regler som "skada inte människor". Men även om mänskligheten inte kan skapa en sådan artificiell intelligens, är det fortfarande oklart vid vilken tidpunkt denna tröskel kommer att övervinnas.