Идеята за изкуствения интелект, който сваля или поробва човечеството, се говори от много десетилетия и
Уловката е, че да се управлявасуперинтелигентност далеч отвъд човешкото разбиране ще изисква симулация на този свръхинтелект, който можем да анализираме. Но ако не сме в състояние да го разберем, тогава е невъзможно да създадем такава симулация.
Правила като “не вредихората не могат да бъдат установени, ако не разберем какви сценарии може да измисли AI, според авторите на статията от 2021 г. Когато една компютърна система работи на ниво, надхвърлящо възможностите на нашите програмисти, ние вече не можем да задаваме ограничения.
“Суперинтелигентността представлявакоренно различен проблем от тези, които обикновено се изучават под знамето на “етика на роботите”, – пишат изследователите. “Това е така, защото суперинтелектът е многостранен и следователно има потенциала да мобилизира различни ресурси за постигане на цели, които са потенциално неразбираеми за хората, да не говорим за контролируеми”.
Ако ще популяризираме изкуствениинтелигентност, може дори да не знаем кога ще се появи свръхинтелигентност извън нашия контрол, толкова е неразбираемо. Това означава, че трябва да започнем да си задаваме сериозни въпроси за това в каква посока вървим.
Източник: sciencealert, jair
Илюстрации: Yuyeung Lau
</ P>