Apie idėją nuversti ar pavergti žmoniją dirbtiniu intelektu buvo kalbama dešimtmečius, ir
Laimikis yra tas, kad reikia valdytisuperintelektui, toli už žmogaus suvokimo ribų, reikės šio superintelekto modeliavimo, kurį galime analizuoti. Bet jei mes nesugebame to suvokti, tada neįmanoma sukurti tokio modeliavimo.
Tokios taisyklės kaip "nepakenk žmonėms" negali būti nustatytos, jei nesuprantame, kokie gali būti scenarijaiSugalvokite dirbtinį intelektą, pasak 2021 m. straipsnio autorių.Lygiu, viršijančiu mūsų programuotojų galimybes, nebegalime nustatyti ribų.
“Superintelektas atstovaujaiš esmės kitokia problema nei tos, kurios paprastai tiriamos po “robotų etikos”, – rašo tyrėjai. “Taip yra todėl, kad superintelektas yra daugialypis, todėl gali sutelkti įvairius išteklius, kad būtų pasiekti tikslai, kurie gali būti žmonėms nesuprantami, jau nekalbant apie valdomus”.
Jei ketiname skatinti dirbtinįintelektas, mes galime net nežinoti, kada pasirodys superintelektas, nepriklausantis nuo mūsų, tai taip nesuvokiama. Tai reiškia, kad turime pradėti kelti rimtus klausimus, kuria kryptimi einame.
Šaltinis: sciencealert, jair
Iliustracijos: Yuyeung Lau
</ p>