Los sistemas de inteligencia artificial ya están causando preocupación, especialmente aquellos que pueden controlar otras máquinas. Muchos
Supongamos que alguien necesita programarun sistema de inteligencia artificial con inteligencia humana superior para que pueda aprender independientemente de un humano. Entonces la IA conectada a Internet tendrá acceso a todos los datos de la humanidad. También podrá reemplazar todos los programas existentes y tomar el control de todas las máquinas en todo el mundo. ¿Sucederá esta utopía o distopía? ¿Puede la IA curar el cáncer, establecer la paz mundial y evitar una catástrofe climática? ¿O destruirá a la humanidad y se apoderará de la Tierra?
Los científicos informáticos y los filósofos se preguntan si seremos capaces de controlar la IA superinteligente para garantizar que no represente una amenaza para la humanidad.
"La máquina superinteligente que gobierna el mundo,suena a ciencia ficción. Pero ya hay máquinas que realizan ciertas tareas importantes de forma completamente independiente, mientras que los programadores no comprenden completamente cómo aprendieron esto. Por lo tanto, surge la pregunta de si esto en algún momento podría volverse incontrolable y peligroso para la humanidad ”, dice el coautor del estudio Manuel Sebrian, jefe del grupo de movilización digital del Centro de Personas y Máquinas del Instituto Max Planck para el Desarrollo Humano.
Los científicos han explorado dos ideas diferentes de cómoLa IA superinteligente se puede controlar. Por un lado, las capacidades de la IA superinteligente podrían limitarse específicamente, por ejemplo, aislándola de Internet y de todos los demás dispositivos técnicos para que no pueda contactar con el mundo exterior, pero esto haría que la IA superinteligente sea mucho menos poderosa y menos capaz de responder a asignaciones humanitarias. ... Sin esa oportunidad, la IA desde el principio podría estar motivada para perseguir solo objetivos que satisfagan los intereses de la humanidad, por ejemplo, programando principios éticos en ella. Sin embargo, los investigadores también muestran que estas y otras ideas modernas e históricas para controlar la IA superinteligente tienen sus límites.
En su investigación, el equipo desarrollóun algoritmo de contención teórico que asegura que la IA superinteligente no pueda dañar a los humanos bajo ninguna circunstancia simulando primero el comportamiento de la IA y deteniéndola si se considera dañino. Pero un análisis cuidadoso muestra que en nuestro paradigma informático actual, tal algoritmo no se puede construir.
"Si descomponemos el problema en reglas básicasciencia informática teórica, resulta que un algoritmo que le dijera a la IA que no destruya el mundo podría detener inadvertidamente sus propias operaciones. Si esto sucediera, no sabría si el algoritmo de contención aún analizaría la amenaza y si la detuvo para contener IA maliciosa. De hecho, esto hace que el algoritmo de contención sea inutilizable ”, dice Iyad Rahwan, director del Centro para Personas y Máquinas.
Con base en estos cálculos, el problema de la contención no es factible, es decir, ningún algoritmo puede encontrar una solución para determinar si la IA dañará al mundo o no.
Ver tambien
El Ministerio de Salud de Argentina divulgó datos sobre efectos secundarios en quienes recibieron "Sputnik V"
El ornitorrinco resultó ser una mezcla genética de mamíferos, aves y reptiles
Aborto y ciencia: que pasará con los niños que darán a luz