Systémy umelej inteligencie sú už problémom, najmä tie, ktoré sú schopné ovládať iné stroje.Mnoho
Predpokladajme, že niekto musí programovaťsystém umelej inteligencie s vynikajúcou ľudskou inteligenciou, aby sa mohol učiť nezávisle od človeka. Potom bude mať AI pripojená k internetu prístup ku všetkým údajom ľudstva. Bude tiež schopný nahradiť všetky existujúce programy a prevziať kontrolu nad všetkými strojmi po celom svete. Stane sa táto utópia alebo dystopia? Môže AI vyliečiť rakovinu, nastoliť svetový mier a odvrátiť katastrofu podnebia? Alebo zničí ľudstvo a ovládne Zem?
Počítačoví vedci a filozofi sa pýtajú, či vôbec dokážeme riadiť superinteligentnú umelú inteligenciu, aby sme zabezpečili, že to tak nebudepredstavujú hrozbu pre ľudstvo.
„Superinteligentný stroj, ktorý vládne svetu,znie to ako sci-fi. Ale už existujú stroje, ktoré vykonávajú niektoré dôležité úlohy úplne nezávisle, zatiaľ čo programátori úplne nerozumejú tomu, ako sa to naučili. Vyvstáva preto otázka, či by sa to v určitom okamihu mohlo stať nekontrolovateľným a nebezpečným pre ľudstvo, “hovorí spoluautor štúdie Manuel Sebrian, vedúci skupiny pre digitálnu mobilizáciu v Centre pre ľudí a stroje v Inštitúte Maxa Plancka pre ľudský rozvoj.
Vedci preskúmali dve rôzne predstavy o tom, akosuperinteligentná AI sa dá ovládať. Na jednej strane by mohli byť schopnosti superinteligentnej AI konkrétne obmedzené, napríklad jej izoláciou od internetu a všetkých ostatných technických zariadení, aby nemohla kontaktovať vonkajší svet, ale to by spôsobilo, že superinteligentná AI bude oveľa menej výkonná a bude menej schopná reagovať na humanitárne úlohy. ... Bez takejto príležitosti by mohla byť AI od samého začiatku motivovaná sledovať iba ciele, ktoré zodpovedajú záujmom ľudstva, napríklad programovaním etických princípov. Vedci však tiež ukazujú, že tieto a ďalšie moderné a historické nápady na riadenie superinteligentnej AI majú svoje limity.
Pri ich výskume sa tím vyvinulteoretický odstrašovací algoritmus, ktorý zaisťuje, že superinteligentná AI nemôže za žiadnych okolností ublížiť ľuďom tak, že najskôr simuluje správanie AI a zastaví ho, ak sa to považuje za škodlivé. Ale starostlivá analýza ukazuje, že v našej súčasnej počítačovej paradigme takýto algoritmus nie je možné vytvoriť.
"Ak problém rozložíme na základné pravidlá."teoretická informatika sa ukazuje, že algoritmus, ktorý hovorí AI, aby nezničila svet, by mohol nechtiac zastaviť svoje vlastné operácie. Ak by sa to stalo, nevedeli by ste, či algoritmus zadržania bude stále analyzovať hrozbu a či ju zastavil, aby obsahovala škodlivú AI. Vďaka tomu je algoritmus zadržania v podstate nepoužiteľný, “hovorí Iyad Rahwan, riaditeľ Centra pre ľudí a stroje.
Na základe týchto výpočtov nie je možné zvládnuť problém zadržania, to znamená, že žiadny algoritmus nenájde riešenie, ktoré by určilo, či AI poškodí svet alebo nie.
Pozri tiež:
Ministerstvo zdravotníctva Argentíny zverejnilo údaje o vedľajších účinkoch u tých, ktorí dostávali Sputnik V.
Platypus sa ukázal byť genetickou zmesou cicavcov, vtákov a plazov
Potraty a veda: čo sa stane s deťmi, ktoré budú rodiť