Ett team från MIT kombinerade en datainlärningsalgoritm med ett djupt neuralt nätverk som till exempel använder
För att göra AI-system motståndskraftiga mot motstridiga data försökte forskarna implementera skydd för övervakad inlärning.
Traditionellt lär sig ett neuralt nätverk att anslutaspecifika etiketter eller åtgärder med givna ingångar. Till exempel bör ett neuralt nätverk som tar emot tusentals bilder taggade som katter, tillsammans med bilder taggade som hus och korv, korrekt märka den nya bilden som en katt.
I robusta system för artificiell intelligens, desamma övervakade inlärningsmetoder kan testas med delvis modifierade versioner av bilden. Om nätet träffar samma etikett - en katt - är det stor chans att bilden och förändringen eller inte är en katt.
För att kunna använda neurala nätverk i säkerhetskritiska scenarier var vi tvungna att ta reda på hur vi skulle fatta beslut i realtid baserat på värsta tänkbara antaganden, förklaraFörfattare till verket.
Därför försökte teamet förlita sig på en tillen form av maskininlärning som inte kräver bindning av märkta ingångar till utgångar utan snarare syftar till att förbättra vissa åtgärder som svar på ingångar. Detta tillvägagångssätt används ofta för att lära datorer att spela schack och Go.
Författarna tror att den nya CARRL-algoritmen kan hjälpa robotar säkert att hantera oförutsägbara interaktioner i den verkliga världen.
Läs mer
Fysiker har skapat en analog av ett svart hål och bekräftat Hawkings teori. Vart leder det?
Algoritmen har upptäckt ett nytt mystiskt lager inuti jorden
På grund av solen kommer jordens atmosfär att förlora allt gratis syre