AI-systemer skaper allerede bekymring, spesielt de som kan kontrollere andre maskiner. Mange
Anta at noen trenger å programmereet kunstig intelligenssystem med overlegen menneskelig intelligens slik at det kan lære uavhengig av et menneske. Da vil AI som er koblet til Internett få tilgang til alle dataene fra menneskeheten. Han vil også kunne erstatte alle eksisterende programmer og ta kontroll over alle maskiner over hele verden. Vil denne utopien eller dystopien skje? Kan AI kurere kreft, etablere verdensfred og avverge klimakatastrofe? Eller vil det ødelegge menneskeheten og ta over jorden?
Dataforskere og filosofer lurer på om vi i det hele tatt vil være i stand til å kontrollere superintelligent AI for å sikre at den ikke utgjør en trussel mot menneskeheten.
"Den superintelligente maskinen som styrer verden,høres ut som science fiction. Men det finnes allerede maskiner som utfører visse viktige oppgaver helt uavhengig, mens programmerere ikke helt forstår hvordan de lærte dette. Derfor oppstår spørsmålet om dette på et eller annet tidspunkt kan bli ukontrollerbart og farlig for menneskeheten, sier medforfatter av studien, Manuel Sebrian, leder for den digitale mobiliseringsgruppen ved Center for People and Machines ved Max Planck Institute for Human Development.
Forskere har utforsket to forskjellige ideer om hvordansuperintelligent AI kan kontrolleres. På den ene siden kan superintelligent AIs kapasitet begrenses spesifikt, for eksempel ved å isolere den fra Internett og alle andre tekniske enheter slik at den ikke kan kontakte omverdenen, men dette vil gjøre den superintelligente AI mye mindre kraftig og mindre i stand til å svare på humanitære oppdrag. ... Uten en slik mulighet kunne AI helt fra begynnelsen være motivert til å forfølge bare mål som oppfyller menneskehetens interesser, for eksempel ved å programmere etiske prinsipper i det. Forskerne viser imidlertid også at disse og andre moderne og historiske ideer for å kontrollere superintelligent AI har sine grenser.
I sin forskning utviklet teamet segen teoretisk avskrekkingsalgoritme som sikrer at superintelligent AI ikke kan skade mennesker under noen omstendigheter ved først å simulere AIs atferd og stoppe den hvis den anses å være skadelig. Men nøye analyser viser at en slik algoritme ikke kan bygges i vårt nåværende databehandlingsparadigme.
“Hvis vi dekomponerer problemet i grunnleggende reglerteoretisk informatikk, viser det seg at en algoritme som vil si at AI ikke skal ødelegge verden, ved et uhell kunne stoppe sin egen virksomhet. Hvis det skjedde, ville du ikke vite om inneslutningsalgoritmen fortsatt ville analysere trusselen, og om den stoppet den for å inneholde ondsinnet AI. I hovedsak gjør dette inneslutningsalgoritmen ubrukelig, sier Iyad Rahwan, direktør for Center for People and Machines.
Basert på disse beregningene er problemet med inneslutning ikke mulig, det vil si at ingen algoritmer kan finne en løsning for å avgjøre om AI vil skade verden eller ikke.
Se også:
Helsedepartementet i Argentina avslørte data om bivirkninger hos de som fikk Sputnik V
Platypus viste seg å være en genetisk blanding av pattedyr, fugler og reptiler
Abort og vitenskap: hva vil skje med barna som skal føde