DI sistemos jau kelia susirūpinimą, ypač tos, kurios gali valdyti kitas mašinas.Daug
Tarkime, kažkas turi programuotidirbtinio intelekto sistema, turinti aukštesnį žmogaus intelektą, kad ji galėtų mokytis nepriklausomai nuo žmogaus. Tada dirbtinis intelektas, prijungtas prie interneto, turės prieigą prie visų žmonijos duomenų. Jis taip pat galės pakeisti visas esamas programas ir kontroliuoti visas mašinas visame pasaulyje. Ar įvyks ši utopija ar distopija? Ar dirbtinis intelektas gali išgydyti vėžį, įtvirtinti taiką pasaulyje ir pakeisti klimato katastrofą? O gal tai sunaikins žmoniją ir užvaldys Žemę?
Kompiuterių mokslininkams ir filosofams kyla klausimas, ar mes netgi galime valdyti superintelektualų dirbtinį intelektą, kad įsitikintume, jog jis to nedarokelia grėsmę žmonijai.
„Pažangi mašina, valdanti pasaulį,skamba kaip mokslinė fantastika. Bet jau yra mašinų, kurios tam tikras svarbias užduotis atlieka visiškai savarankiškai, ir programuotojai ne iki galo supranta, kaip jie to išmoko. Todėl kyla klausimas, ar jis tam tikru momentu gali tapti nevaldomas ir pavojingas žmonijai “, - sako tyrimo bendraautorius Manuelis Sebrianas, Makso Plancko žmogaus vystymosi instituto Žmonių ir mašinų centro skaitmeninės mobilizacijos grupės vadovas.
Mokslininkai ištyrė dvi skirtingas idėjassuperinteliginis intelektas gali būti valdomas. Viena vertus, superintelento dirbtinio intelekto galimybės galėtų būti specialiai apribotos, pavyzdžiui, izoliuojant jį nuo interneto ir visų kitų techninių prietaisų, kad jis negalėtų susisiekti su išoriniu pasauliu, tačiau tai padarytų superintelento intelektą daug mažiau galingu ir mažiau atsakingu į humanitarines užduotis. ... Neturint tokios galimybės, AI nuo pat pradžių galėjo būti motyvuotas siekti tik tikslų, atitinkančių žmonijos interesus, pavyzdžiui, programuojant į jį etikos principus. Tačiau tyrėjai taip pat rodo, kad šios ir kitos šiuolaikinės bei istorinės superintelento intelekto kontrolės idėjos turi savo ribas.
Atlikdama tyrimus, komanda išsivystėteorinis atgrasymo algoritmas, užtikrinantis, kad intelektualus intelektinis intelektas jokiomis aplinkybėmis negali pakenkti žmonėms, pirmiausia imituojant dirbtinio intelekto elgesį ir jį sustabdžius, jei jis laikomas žalingu. Tačiau kruopšti analizė rodo, kad dabartinėje mūsų skaičiavimo paradigmoje tokio algoritmo negalima sukurti.
„Jei problemą išskaidysime į pagrindines taisyklesteorinis kompiuterių mokslas, paaiškėja, kad algoritmas, liepiantis dirbtiniam intelektui nesunaikinti pasaulio, gali netyčia nutraukti savo operacijas. Jei taip atsitiktų, nežinotumėte, ar sulaikymo algoritmas vis tiek analizuos grėsmę ir ar ją sustabdė, kad jame būtų kenksmingas dirbtinis intelektas. Iš esmės dėl to izoliavimo algoritmas tampa nenaudojamas “, - sako Iyad Rahwan, Žmonių ir mašinų centro direktorius.
Remiantis šiais skaičiavimais, sulaikymo problema neįmanoma, tai yra, nė vienas algoritmas negali rasti sprendimo, ar AI pakenks pasauliui, ar ne.
Taip pat žiūrėkite:
Argentinos sveikatos ministerija atskleidė duomenis apie šalutinį poveikį tiems, kurie gavo Sputnik V
Paaiškėjo, kad Platypus yra genetinis žinduolių, paukščių ir roplių mišinys
Abortas ir mokslas: kas nutiks gimdantiems vaikams