L’idée de renverser ou d’asservir l’humanité par l’intelligence artificielle est évoquée depuis des décennies.
Le hic, c'est de gérerla superintelligence bien au-delà de la compréhension humaine nécessitera une simulation de cette superintelligence que nous pourrons analyser. Mais si nous ne sommes pas capables de le comprendre, alors il est impossible de créer une telle simulation.
Des règles telles que « ne pas faire de mal aux gens » ne peuvent pas être établies si nous ne comprenons pas quels scénarios peuvent êtreInventez l’IA, selon les auteurs de l’article de 2021.À un niveau au-delà des capacités de nos programmeurs, nous ne pouvons plus fixer de limites.
« La superintelligence représenteIl s'agit d'un problème fondamentalement différent de ceux habituellement étudiés sous la bannière de « l'éthique des robots ». écrivent les chercheurs. « En effet, la superintelligence a de multiples facettes et a donc le potentiel de mobiliser diverses ressources pour atteindre des objectifs potentiellement incompréhensibles pour les humains, et encore moins contrôlables ».
Si nous voulons promouvoir l'artificiell'intelligence, nous ne savons peut-être même pas quand la superintelligence, hors de notre contrôle, apparaîtra, c'est tellement incompréhensible. Cela signifie que nous devons commencer à nous poser de sérieuses questions sur la direction que nous prenons.
Source : alerte scientifique, jair
Illustration : Yuyeung Lau
</ p>