Les systèmes d’IA sont déjà une préoccupation, en particulier ceux qui sont capables de contrôler d’autres machines.Beaucoup
Supposons que quelqu'un ait besoin de programmerun système d'intelligence artificielle doté d'une intelligence humaine supérieure afin qu'il puisse apprendre indépendamment d'un humain. Ensuite, l'IA connectée à Internet aura accès à toutes les données de l'humanité. Il pourra également remplacer tous les programmes existants et prendre le contrôle de toutes les machines dans le monde. Cette utopie ou cette dystopie se produira-t-elle? L'IA peut-elle guérir le cancer, établir la paix mondiale et éviter les catastrophes climatiques? Ou va-t-il détruire l'humanité et prendre le contrôle de la Terre?
Les informaticiens et les philosophes se demandent si nous serons même capables de contrôler l’IA superintelligente pour garantir qu’elle ne constitue pas une menace pour l’humanité.
"La machine superintelligente qui gouverne le monde,ressemble à de la science-fiction. Mais il existe déjà des machines qui effectuent certaines tâches importantes de manière totalement indépendante et les programmeurs ne comprennent pas pleinement comment ils ont appris cela. Par conséquent, la question se pose de savoir si cela pourrait à un moment donné devenir incontrôlable et dangereux pour l'humanité », explique le co-auteur de l'étude Manuel Sebrian, chef du groupe de mobilisation numérique au Centre pour les personnes et les machines de l'Institut Max Planck pour le développement humain.
Les scientifiques ont exploré deux idées différentes sur la façonL'IA superintelligente peut être contrôlée. D'une part, les capacités de l'IA superintelligente pourraient être spécifiquement limitées, par exemple en l'isolant d'Internet et de tous les autres appareils techniques afin qu'elle ne puisse pas contacter le monde extérieur, mais cela rendrait l'IA superintelligente beaucoup moins puissante et moins capable de répondre aux missions humanitaires. ... Sans une telle opportunité, l'IA pourrait dès le départ être motivée à poursuivre uniquement des objectifs qui répondent aux intérêts de l'humanité, par exemple en y programmant des principes éthiques. Cependant, les chercheurs montrent également que ces idées et d'autres idées modernes et historiques pour contrôler l'IA superintelligente ont leurs limites.
Dans leurs recherches, l'équipe a développéun algorithme de confinement théorique qui garantit que l'IA superintelligente ne peut en aucun cas nuire aux humains en simulant d'abord le comportement de l'IA et en l'arrêtant s'il est jugé dangereux. Mais une analyse minutieuse montre que dans notre paradigme informatique actuel, un tel algorithme ne peut pas être construit.
«Si nous décomposons le problème en règles de basel'informatique théorique, il s'avère qu'un algorithme qui dirait à l'IA de ne pas détruire le monde pourrait par inadvertance arrêter ses propres opérations. Si cela se produisait, vous ne sauriez pas si l'algorithme de confinement analyserait toujours la menace et s'il l'a arrêtée pour contenir une IA malveillante. Essentiellement, cela rend l'algorithme de confinement inutilisable », explique Iyad Rahwan, directeur du Center for People and Machines.
Sur la base de ces calculs, le problème du confinement n'est pas faisable, c'est-à-dire qu'aucun algorithme ne peut trouver une solution pour déterminer si l'IA nuira au monde ou non.
Voir aussi:
Le ministère de la Santé de l'Argentine a divulgué des données sur les effets secondaires chez ceux qui ont reçu "Spoutnik V"
Platypus s'est avéré être un mélange génétique de mammifères, d'oiseaux et de reptiles
Avortement et science: qu'arrivera-t-il aux enfants qui accoucheront