Par ideju par mākslīgā intelekta gāšanu vai paverdzināšanu cilvēci runā jau daudzus gadu desmitus, un
Nozveja ir tāda, ka jāpārvaldaLai sasniegtu augstāko intelektu, kas pārsniedz cilvēka izpratni, būs nepieciešama šī superintelekta simulācija, ko mēs varam analizēt. Bet, ja mēs to nespējam aptvert, tad tādu simulāciju izveidot nav iespējams.
Noteikumi, piemēram, “nekaitēcilvēkus nevar noteikt, ja mēs nesaprotam, kādus scenārijus AI var nākt klajā, norāda 2021. gada raksta autori. Kad datorsistēma darbojas līmenī, kas pārsniedz mūsu programmētāju iespējas, mēs vairs nevaram noteikt ierobežojumus.
“Superinteliģence pārstāvprincipiāli atšķirīga problēma, nekā parasti tiek pētīta zem "robotu ētikas" karoga, – raksta pētnieki. “Tas ir tāpēc, ka superinteliģence ir daudzšķautņaina un tāpēc spēj mobilizēt dažādus resursus, lai sasniegtu mērķus, kas cilvēkiem potenciāli ir nesaprotami, nemaz nerunājot par kontrolējamiem”.
Ja mēs gatavojamies veicināt mākslīgointeliģence, mēs varam pat nezināt, kad parādīsies superinteliģence, kas ir ārpus mūsu kontroles, tas ir tik nesaprotami. Tas nozīmē, ka mums jāsāk uzdot nopietnus jautājumus par to, kurā virzienā mēs ejam.
Avots: sciencealert, jair
Ilustrācijas: Yuyeung Lau
</ p>