Se ha hablado de la idea de que la inteligencia artificial derroque o esclavice a la humanidad durante muchas décadas, y
El problema es que administrarLa superinteligencia mucho más allá de la comprensión humana requerirá una simulación de esta superinteligencia que podamos analizar. Pero si no somos capaces de comprenderlo, entonces es imposible crear tal simulación.
Reglas como "no hacer daño"Según los autores del artículo de 2021, no se puede establecer la identidad de las personas si no entendemos qué escenarios puede generar la IA. Cuando un sistema informático opera a un nivel que supera las capacidades de nuestros programadores, ya no podemos establecer límites.
“La Superinteligencia representaun problema fundamentalmente diferente de los que habitualmente se estudian bajo el lema de "ética de los robots", – escriben los investigadores. "Esto se debe a que la superinteligencia es multifacética y, por lo tanto, tiene el potencial de movilizar una variedad de recursos para lograr objetivos que son potencialmente incomprensibles para los humanos, y mucho menos controlables".
Si vamos a promover artificialesinteligencia, es posible que ni siquiera sepamos cuándo aparecerá la superinteligencia, más allá de nuestro control, es tan incomprensible. Esto significa que debemos empezar a hacernos preguntas serias sobre la dirección en la que nos dirigimos.
Fuente: alerta científica, jair
Ilustraciones: Yuyeung Lau
</ p>