Systémy umělé inteligence jsou již nyní problémem, zejména ty, které jsou schopny ovládat jiné stroje.Mnoho
Předpokládejme, že někdo potřebuje programovatsystém umělé inteligence s vynikající lidskou inteligencí, aby se mohl učit nezávisle na člověku. Pak bude mít AI připojená k internetu přístup ke všem datům lidstva. Rovněž bude schopen nahradit všechny stávající programy a převzít kontrolu nad všemi stroji po celém světě. Stane se tato utopie nebo dystopie? Může AI vyléčit rakovinu, nastolit světový mír a odvrátit katastrofu podnebí? Nebo zničí lidstvo a ovládne Zemi?
Počítačoví vědci a filozofové si kladou otázku, zda vůbec dokážeme superinteligentní umělou inteligenci zvládnout tak, aby tomu tak nebylopředstavují hrozbu pro lidstvo.
„Superinteligentní stroj, který vládne světu,zní to jako sci-fi. Ale již existují stroje, které provádějí určité důležité úkoly zcela nezávisle, a programátoři plně nerozumí tomu, jak se to naučili. Vyvstává tedy otázka, zda by se to v určitém okamžiku mohlo stát nekontrolovatelným a nebezpečným pro lidstvo, “říká spoluautor studie Manuel Sebrian, vedoucí skupiny pro digitální mobilizaci v Centru pro lidi a stroje v Institutu Maxe Plancka pro lidský rozvoj.
Vědci prozkoumali dvě různé představy o tom, jaksuperinteligentní AI lze ovládat. Na jedné straně by schopnosti superinteligentní AI mohly být konkrétně omezeny, například izolací od internetu a všech ostatních technických zařízení, aby nemohla kontaktovat vnější svět, ale díky tomu by superinteligentní AI byla mnohem méně silná a méně schopná reagovat na humanitární úkoly. ... Bez takové příležitosti by umělá inteligence mohla být od samého začátku motivována k tomu, aby sledovala pouze cíle, které splňují zájmy lidstva, například naprogramováním etických principů. Vědci však také ukazují, že tyto a další moderní a historické nápady pro řízení superinteligentní AI mají své limity.
Ve svém výzkumu se tým vyvinulteoretický algoritmus zadržování, který zajišťuje, že superinteligentní AI nemůže za žádných okolností ublížit lidem tím, že nejprve simuluje chování AI a zastaví jej, pokud je to považováno za škodlivé. Pečlivá analýza však ukazuje, že v našem současném výpočetním paradigmatu nelze takový algoritmus vytvořit.
"Rozložíme problém na základní pravidla."teoretické počítačové vědy se ukazuje, že algoritmus, který řekne AI, aby nezničila svět, by mohl nechtěně zastavit své vlastní operace. Pokud by se to stalo, nevíte, jestli by algoritmus zadržování stále analyzoval hrozbu a jestli ji zastavil, aby obsahovala škodlivou AI. Díky tomu je algoritmus kontejnmentu nepoužitelný, “říká Iyad Rahwan, ředitel Centra pro lidi a stroje.
Na základě těchto výpočtů není problém izolace proveditelný, to znamená, že žádný algoritmus nemůže najít řešení, které by určilo, zda AI poškodí svět nebo ne.
Viz také:
Ministerstvo zdravotnictví Argentiny zveřejnilo údaje o vedlejších účincích u těch, kteří dostali „Sputnik V“
Ptakopysk se ukázal být genetickou směsí savců, ptáků a plazů
Potrat a věda: co se stane s dětmi, které porodí