Une équipe du MIT a combiné un algorithme d’apprentissage de données avec un réseau neuronal profond qui utilise, par exemple,
Pour rendre les systèmes d’IA résilients face aux données contradictoires, les chercheurs ont tenté de mettre en place des protections pour l’apprentissage supervisé.
Traditionnellement, un réseau de neurones apprend à se connecterétiquettes ou actions spécifiques avec des entrées données. Par exemple, un réseau de neurones qui reçoit des milliers d'images étiquetées comme des chats, ainsi que des images étiquetées comme des maisons et des hot dogs, devrait correctement étiqueter la nouvelle image comme un chat.
Dans les systèmes d'intelligence artificielle robustes, ceuxles mêmes méthodes d'apprentissage supervisé peuvent être testées avec des versions partiellement modifiées de l'image. Si le filet touche la même étiquette - un chat - il y a de fortes chances que l'image et change ou non soit un chat.
Afin d’utiliser les réseaux neuronaux dans des scénarios critiques pour la sécurité, nous avons dû trouver comment prendre des décisions en temps réel basées sur les hypothèses les plus pessimistes, expliquerAuteurs de l’œuvre.
Par conséquent, l'équipe a cherché à s'appuyer sur un autreune forme d'apprentissage automatique qui ne nécessite pas la liaison des entrées étiquetées aux sorties, mais vise plutôt à améliorer certaines actions en réponse aux entrées. Cette approche est couramment utilisée pour apprendre aux ordinateurs à jouer aux échecs et au go.
Les auteurs pensent que le nouvel algorithme CARRL peut aider les robots à gérer en toute sécurité les interactions imprévisibles dans le monde réel.
Lire la suite
Les physiciens ont créé un analogue d'un trou noir et confirmé la théorie de Hawking. Où ça mène?
Un algorithme a découvert une nouvelle couche mystérieuse à l'intérieur de la Terre
À cause du soleil, l'atmosphère terrestre perdra tout l'oxygène libre