Tekoälyjärjestelmät ovat jo huolenaihe, etenkin ne, jotka pystyvät ohjaamaan muita koneita.Monta
Oletetaan, että jonkun on ohjelmoitavatekoälyjärjestelmä, jolla on ylivoimainen ihmisen älykkyys, jotta se voi oppia ihmisestä riippumatta. Sitten Internetiin yhdistetyllä tekoälyllä on pääsy kaikkiin ihmiskunnan tietoihin. Hän voi myös korvata kaikki olemassa olevat ohjelmat ja hallita kaikkia koneita ympäri maailmaa. Tapahtuuko tämä utopia tai dystopia? Voiko tekoäly parantaa syöpää, saada aikaan maailmanrauhan ja kääntää ilmastokatastrofin? Vai tuhoako se ihmiskunnan ja valloittaa maapallon?
Tietojenkäsittelytieteilijät ja filosofit ihmettelevät, voimmeko edes hallita superälykästä tekoälyä varmistaaksemme, että se eiuhkaavat ihmiskuntaa.
"Älykäs kone, joka hallitsee maailmaa,kuulostaa tieteiskirjallisuudelta. Mutta jo on koneita, jotka suorittavat tietyt tärkeät tehtävät täysin itsenäisesti, ja ohjelmoijat eivät ymmärrä täysin, miten he oppivat tämän. Siksi herää kysymys, voisiko siitä jossain vaiheessa tulla hallitsematonta ja vaarallista ihmiskunnalle ”, kertoo tutkimuksen toinen kirjoittaja Manuel Sebrian, Max Planckin inhimillisen kehityksen instituutin ihmisten ja koneiden keskuksen digitaalisen mobilisointiryhmän johtaja.
Tutkijat ovat tutkineet kahta erilaista ajatusta mitensuperintelligent AI voidaan ohjata. Yhtäältä superintelligentin tekoälyä voitaisiin rajoittaa erityisesti esimerkiksi eristämällä se Internetistä ja kaikista muista teknisistä laitteista, jotta se ei voi ottaa yhteyttä ulkomaailmaan, mutta tämä tekisi superintelligentistä paljon vähemmän voimakkaan ja vähemmän kykenevän vastaamaan humanitaarisiin tehtäviin. ... Ilman tällaista mahdollisuutta tekoälyä voitaisiin alusta alkaen motivoida pyrkimään vain ihmisyyden etujen mukaisiin tavoitteisiin, esimerkiksi ohjelmoimalla siihen eettiset periaatteet. Tutkijat osoittavat kuitenkin myös, että näillä ja muilla nykyaikaisilla ja historiallisilla ideoilla superintelligent AI: n hallitsemiseksi on rajoituksensa.
Tutkimuksessaan tiimi kehittyiteoreettinen suojarakennusalgoritmi, jolla varmistetaan, että älykäs tekoäly ei voi vahingoittaa ihmisiä missään olosuhteissa simuloimalla ensin tekoälyn käyttäytymistä ja pysäyttämällä sen, jos sen katsotaan olevan haitallista. Mutta huolellinen analyysi osoittaa, että nykyisessä laskentaparadigmassamme tällaista algoritmia ei voida rakentaa.
”Jos hajotamme ongelman perussäännöiksiteoreettisen tietojenkäsittelytieteen perusteella käy ilmi, että algoritmi, joka käski tekoälyn olemaan tuhoamatta maailmaa, voi vahingossa lopettaa oman toimintansa. Jos näin tapahtuisi, et tiedä, analysoiko suojarakennusalgoritmi edelleen uhkaa, ja jos se pysäyttäisi sen sisältävän haitallista tekoälyä. Pohjimmiltaan tämä tekee suojarakennusalgoritmin käyttökelvottomaksi ", sanoo Iyad Rahwan, Ihmisten ja koneiden keskuksen johtaja.
Näiden laskelmien perusteella suojarakennuksen ongelma ei ole toteutettavissa, toisin sanoen mikään algoritmi ei löydä ratkaisua sen selvittämiseksi, vahingoittaako tekoäly maailmaa vai ei.
Katso myös:
Argentiinan terveysministeriö paljasti sivuvaikutuksia potilailla, jotka saivat "Sputnik V"
Platypus osoittautui geneettiseksi sekoitukseksi nisäkkäistä, linnuista ja matelijoista
Abortti ja tiede: mitä tapahtuu synnyttäville lapsille