AI-system skapar redan oro, särskilt de som kan styra andra maskiner. Många
Antag att någon behöver programmeraett system för artificiell intelligens med överlägsen mänsklig intelligens så att det kan lära sig oberoende av en människa. Då kommer AI som är ansluten till Internet ha tillgång till alla data från mänskligheten. Han kommer också att kunna ersätta alla befintliga program och ta kontroll över alla maskiner runt om i världen. Kommer denna utopi eller dystopi att hända? Kan AI bota cancer, skapa världsfred och avvärja klimatkatastrof? Eller kommer det att förstöra mänskligheten och ta över jorden?
Datavetare och filosofer undrar om vi ens kommer att kunna kontrollera superintelligent AI för att säkerställa att den inte utgör ett hot mot mänskligheten.
"Den superintelligenta maskinen som styr världen,låter som science fiction. Men det finns redan maskiner som utför vissa viktiga uppgifter helt självständigt, och programmerare förstår inte helt hur de lärde sig detta. Därför uppstår frågan om det vid något tillfälle kan bli okontrollerbart och farligt för mänskligheten, säger studiens medförfattare Manuel Sebrian, chef för den digitala mobiliseringsgruppen vid Center for People and Machines vid Max Planck Institute for Human Development.
Forskare har utforskat två olika idéer om hursuperintelligent AI kan kontrolleras. Å ena sidan kan superintelligent AI: s kapacitet begränsas specifikt, till exempel genom att isolera den från Internet och alla andra tekniska enheter så att den inte kan kontakta omvärlden, men detta skulle göra den superintelligenta AI mycket mindre kraftfull och mindre kapabel att svara på humanitära uppdrag. ... Utan en sådan möjlighet kunde AI från början motiveras att bara sträva efter mål som uppfyller mänsklighetens intressen, till exempel genom att programmera etiska principer i det. Men forskarna visar också att dessa och andra moderna och historiska idéer för att kontrollera superintelligent AI har sina gränser.
I sin forskning utvecklade teameten teoretisk avskräckande algoritm som säkerställer att superintelligent AI inte kan skada människor under några omständigheter, genom att först simulera AI: s beteende och stoppa det om det anses skadligt. Men noggrann analys visar att en sådan algoritm inte kan byggas i vårt nuvarande dataparadigm.
”Om vi bryter ner problemet i grundläggande reglerteoretisk datavetenskap visar det sig att en algoritm som skulle berätta för AI att inte förstöra världen av misstag kunde stoppa sin egen verksamhet. Om det hände skulle du inte veta om inneslutningsalgoritmen fortfarande skulle analysera hotet och om det stoppade det för att innehålla skadlig AI. I huvudsak gör detta inneslutningsalgoritmen oanvändbar, säger Iyad Rahwan, chef för Center for People and Machines.
Baserat på dessa beräkningar är problemet med inneslutning inte genomförbart, det vill säga ingen algoritm kan hitta en lösning för att avgöra om AI kommer att skada världen eller inte.
Se även:
Argentinas hälsovårdsministerium avslöjade uppgifter om biverkningar hos dem som fick "Sputnik V"
Platypus visade sig vara en genetisk blandning av däggdjur, fåglar och reptiler
Abort och vetenskap: vad kommer att hända med barnen som kommer att föda