О идеји да вештачка интелигенција свргне или пороби човечанство говори се много деценија, а
Квака је у томе да се управљасуперинтелигенција која је далеко изнад људског разумевања захтеваће симулацију ове суперинтелигенције коју можемо анализирати. Али ако нисмо у стању да то схватимо, онда је немогуће направити такву симулацију.
Правила попут “не штетељуди” не може се установити ако не разумемо које сценарије АИ може да смисли, према ауторима чланка из 2021. Када рачунарски систем ради на нивоу који превазилази могућности наших програмера, више не можемо постављати ограничења.
“Суперинтелигенција представљафундаментално другачији проблем од оних који се обично проучавају под заставом “етике робота”, – пишу истраживачи. “То је зато што је суперинтелигенција вишеструка и стога има потенцијал да мобилише различите ресурсе за постизање циљева који су људима потенцијално несхватљиви, а камоли контролисани”.
Ако ћемо да промовишемо вештачкоинтелигенције, можда не знамо ни када ће се суперинтелигенција појавити ван наше контроле, то је тако несхватљиво. То значи да треба да почнемо да постављамо озбиљна питања о томе куда идемо.
Извор: сциенцеалерт, јаир
Илустрације: Јујеунг Лау
</ п>