Er wordt al tientallen jaren gesproken over het idee om de mensheid omver te werpen of tot slaaf te maken door kunstmatige intelligentie, en
De vangst is dat te beherensuperintelligentie die het menselijk bevattingsvermogen ver te boven gaat, vereist een simulatie van deze superintelligentie die we kunnen analyseren. Maar als we het niet kunnen begrijpen, dan is het onmogelijk om zo'n simulatie te maken.
Regels zoals "doe geen kwaad aan mensen" kunnen niet worden vastgesteld als we niet begrijpen wat scenario's kunnen zijnBedenk AI, volgens de auteurs van de paper uit 2021.Op een niveau dat de mogelijkheden van onze programmeurs te boven gaat, kunnen we geen grenzen meer stellen.
“Superintelligentie vertegenwoordigteen fundamenteel ander probleem dan de problemen die gewoonlijk worden bestudeerd onder de vlag van ‘robotethiek’, ‘ schrijven de onderzoekers. ‘Dit komt omdat superintelligentie veelzijdig is en daarom het potentieel heeft om een verscheidenheid aan middelen te mobiliseren om doelen te bereiken die potentieel onbegrijpelijk zijn voor mensen, laat staan controleerbaar.’
Als we kunstmatige gaan promotenintelligentie, we weten misschien niet eens wanneer een superintelligentie buiten onze controle zal verschijnen, het is zo onbegrijpelijk. Dit betekent dat we serieuze vragen moeten gaan stellen over waar we heen gaan.
Bron: sciencealert, jair
Illustraties: Yuyeung Lau
</ p>