AI-systemer giver allerede anledning til bekymring, især dem, der kan styre andre maskiner. Mange
Antag at nogen har brug for at programmereet kunstigt intelligenssystem med overlegen menneskelig intelligens, så det kan lære uafhængigt af et menneske. Derefter vil AI, der er forbundet til internettet, have adgang til alle data fra menneskeheden. Han vil også være i stand til at erstatte alle eksisterende programmer og tage kontrol over alle maskiner rundt om i verden. Vil denne utopi eller dystopi ske? Vil AI være i stand til at helbrede kræft, skabe verdensfred og forhindre klimakatastrofe? Eller vil det ødelægge menneskeheden og overtage Jorden?
Dataloger og filosoffer spekulerer på, om vi overhovedet vil være i stand til at kontrollere superintelligent AI for at sikre, at den ikke udgør en trussel mod menneskeheden.
"Den superintelligente maskine, der styrer verden,lyder som science fiction. Men der er allerede maskiner, der udfører visse vigtige opgaver helt uafhængigt, og programmører forstår ikke fuldt ud, hvordan de lærte dette. Derfor opstår spørgsmålet, om dette på et eller andet tidspunkt kan blive ukontrollerbart og farligt for menneskeheden, ”siger studiemedforfatter Manuel Sebrian, leder af den digitale mobiliseringsgruppe ved Center for Mennesker og maskiner ved Max Planck Institute for Human Development.
Forskere har undersøgt to forskellige ideer til hvordansuperintelligent AI kan styres. På den ene side kunne superintelligent AI's kapaciteter begrænses specifikt, for eksempel ved at isolere den fra Internettet og alle andre tekniske enheder, så den ikke kan kontakte omverdenen, men dette ville gøre den superintelligente AI meget mindre magtfuld og mindre i stand til at reagere på humanitære missioner. ... Uden en sådan mulighed kunne AI helt fra starten motiveres til kun at forfølge mål, der opfylder menneskehedens interesser, for eksempel ved at programmere etiske principper i det. Forskerne viser imidlertid også, at disse og andre moderne og historiske ideer til styring af superintelligent AI har deres grænser.
I deres forskning udviklede holdet sigen teoretisk indeslutningsalgoritme, der sikrer, at superintelligent AI under ingen omstændigheder kan skade mennesker ved først at simulere AI's adfærd og stoppe den, hvis den anses for at være skadelig. Men omhyggelig analyse viser, at en sådan algoritme ikke kan bygges i vores nuværende databehandlingsparadigme.
”Hvis vi nedbryder problemet i grundlæggende reglerteoretisk datalogi, viser det sig, at en algoritme, der fortæller AI ikke at ødelægge verden utilsigtet kunne stoppe sine egne operationer. Hvis dette skete, ville du ikke vide, om indeslutningsalgoritmen stadig ville analysere truslen, og om den stoppede den for at indeholde ondsindet AI. I det væsentlige gør dette indeslutningsalgoritmen ubrugelig, ”siger Iyad Rahwan, direktør for Center for People and Machines.
Baseret på disse beregninger er indeslutningsproblemet ikke gennemførligt, dvs. ingen algoritme kan finde en løsning til at afgøre, om AI vil skade verden eller ej.
Se også:
Sundhedsministeriet i Argentina afslørede data om bivirkninger hos dem, der fik Sputnik V
Platypus viste sig at være en genetisk blanding af pattedyr, fugle og krybdyr
Abort og videnskab: hvad vil der ske med de børn, der føder