Про ідею повалення або поневолення людства штучним інтелектом говорять десятиліттями, і
Загвоздка в тому, що для керуваннянадінтелектом, що знаходиться далеко за межами людського розуміння, знадобиться симуляція цього надінтелекту, яку ми зможемо проаналізувати. Але якщо ми не можемо його осягнути, то створити таку симуляцію неможливо.
Правила на кшталт «не нашкодь людям» не можуть бути встановлені, якщо ми не розуміємо, які можуть бути сценарії розвитку подійПридумайте штучний інтелект, вважають автори статті 2021 року.На рівні, що виходить за межі можливостей наших програмістів, ми вже не можемо встановлювати межі.
“Надінтелект являє собоюпринципово іншу проблему, ніж ті, які зазвичай вивчаються під прапором етики роботів, 8211; пишуть дослідники. “Це пов'язано з тим, що надінтелект багатогранний і, отже, потенційно здатний мобілізувати різноманітні ресурси для досягнення цілей, які потенційно незбагненні для людини, не кажучи вже про те, щоб їх можна було контролювати”.
Якщо ми збираємось просувати штучнийінтелект, ми можемо навіть не дізнатися, коли з'явиться надінтелект, непідвладний нашому контролю, настільки він незбагненний. Це означає, що нам потрібно почати ставити серйозні питання про те, в якому напрямку ми рухаємось.
Джерело: sciencealert, jair
Ілюстрації: Yuyeung Lau
</ P>