Het MIT-team combineerde een data-leeralgoritme met een diep neuraal netwerk dat b.v.
Om kunstmatige-intelligentiesystemen weerbaar te maken tegen inconsistente gegevens, hebben onderzoekers geprobeerd leerverdedigingen onder toezicht te implementeren.
Traditioneel leert een neuraal netwerk verbinding te makenspecifieke labels of acties met gegeven invoer. Een neuraal netwerk dat bijvoorbeeld duizenden afbeeldingen ontvangt die zijn getagd als katten, samen met afbeeldingen die zijn getagd als huizen en hotdogs, zou de nieuwe afbeelding correct als een kat moeten labelen.
In robuuste kunstmatige-intelligentiesystemen, diedezelfde begeleide leermethoden kunnen worden getest met gedeeltelijk gewijzigde versies van de afbeelding. Als het net hetzelfde label raakt - een kat - is de kans groot dat het beeld en verandert of niet een kat is.
Om neurale netwerken te gebruiken in kritieke situatiesvoor beveiligingsscenario's moesten we uitzoeken hoe we realtime beslissingen konden nemen op basis van aannames in het slechtste geval, leggen de auteurs van het artikel uit.
Daarom probeerde het team op nog een te vertrouweneen vorm van machine learning die niet de binding van gelabelde inputs aan outputs vereist, maar eerder gericht is op het verbeteren van bepaalde acties als reactie op inputs. Deze benadering wordt vaak gebruikt om computers te leren schaken en te gaan.
De auteurs zijn van mening dat het nieuwe CARRL-algoritme robots kan helpen om veilig om te gaan met onvoorspelbare interacties in de echte wereld.
Lees verder
Natuurkundigen hebben een analoog van een zwart gat gemaakt en de theorie van Hawking bevestigd. Waar leidt het toe?
Algoritme heeft een nieuwe mysterieuze laag in de aarde ontdekt
Door de zon verliest de atmosfeer van de aarde alle vrije zuurstof