L’idée de détruire l’humanité grâce à l’intelligence artificielle est évoquée depuis longtemps. Les scientifiques ont partagé leur
Discuter
Le hic, c'est que pour contrôler le présentl'intelligence artificielle, bien au-delà de la compréhension humaine, aura besoin d'une simulation de cette superintelligence que nous pourrons analyser (et contrôler). Mais si nous ne sommes pas capables de comprendre cela, il est impossible de créer une telle simulation.
Dans ce cas, les utilisateurs ne pourront pas installer pour l'IAdes règles restrictives telles que "ne pas nuire aux gens". Cependant, alors que l'humanité est incapable de créer une telle intelligence artificielle, on ne sait toujours pas à quel moment ce seuil sera franchi.