Idén om att artificiell intelligens störta eller förslava mänskligheten har talats om i många decennier, och
Haken är att hanterasuperintelligens långt bortom mänsklig förståelse kommer att kräva en simulering av denna superintelligens som vi kan analysera. Men om vi inte kan förstå det är det omöjligt att skapa en sådan simulering.
Regler som “gör ingen skadamänniskor kan inte fastställas om vi inte förstår vilka scenarier AI kan hitta på, enligt författarna till artikeln från 2021. När ett datorsystem fungerar på en nivå utöver våra programmerares kapacitet kan vi inte längre sätta gränser.
“Superintelligens representerarett fundamentalt annorlunda problem än de som vanligtvis studeras under flaggan “robotetik”, – skriver forskarna. “Detta beror på att superintelligens är mångfacetterad och därför har potential att mobilisera en mängd olika resurser för att uppnå mål som är potentiellt obegripliga för människor, än mindre kontrollerbara”.
Om vi ska marknadsföra konstgjordaintelligens, vi kanske inte ens vet när en superintelligens kommer att dyka upp utanför vår kontroll, det är så obegripligt. Det betyder att vi måste börja ställa allvarliga frågor om vart vi är på väg.
Källa: sciencealert, jair
Illustrationer: Yuyeung Lau
</ p>