Ideea de inteligență artificială care răsturnează sau înrobește omenirea s-a vorbit de multe decenii și
Captura este aceea de a gestionao superinteligență mult dincolo de înțelegerea umană va necesita o simulare a acestei superinteligențe pe care o putem analiza. Dar dacă nu suntem capabili să-l înțelegem, atunci este imposibil să creăm o astfel de simulare.
Reguli precum “nu face răuoamenii” nu pot fi stabiliti dacă nu înțelegem ce scenarii poate veni AI, conform autorilor articolului din 2021. Când un sistem informatic funcționează la un nivel dincolo de capacitățile programatorilor noștri, nu mai putem stabili limite.
“Superinteligența reprezintăo problemă fundamental diferită de cele studiate de obicei sub “etica robotului”, – scriu cercetătorii. “Acest lucru se datorează faptului că superinteligența are mai multe fațete și, prin urmare, are potențialul de a mobiliza o varietate de resurse pentru a atinge obiective care sunt potențial de neînțeles pentru oameni, cu atât mai puțin controlabile”.
Dacă vom promova artificialinteligență, s-ar putea să nu știm nici când va apărea superinteligența, dincolo de controlul nostru, este atât de neînțeles. Aceasta înseamnă că trebuie să începem să punem întrebări serioase despre direcția în care ne îndreptăm.
Sursa: sciencealert, Jair
Ilustrații: Yuyeung Lau
</ p>