Zespół z MIT połączył algorytm uczenia się danych z głęboką siecią neuronową, która wykorzystuje m.in.
Aby uodpornić systemy sztucznej inteligencji na niespójne dane, badacze próbowali wdrożyć mechanizmy obronne polegające na nadzorowanym uczeniu się.
Tradycyjnie sieć neuronowa uczy się łączeniaokreślone etykiety lub akcje z określonymi danymi wejściowymi. Na przykład sieć neuronowa, która otrzymuje tysiące obrazów oznaczonych jako koty, wraz z obrazami oznaczonymi jako domy i hot dogi, powinna poprawnie oznaczyć nowy obraz jako kot.
W solidnych systemach sztucznej inteligencji tete same metody uczenia nadzorowanego można przetestować z częściowo zmodyfikowanymi wersjami obrazu. Jeśli sieć trafi w tę samą etykietę - kota - istnieje duże prawdopodobieństwo, że obraz i zmieni się, czy nie, jest kotem.
Aby korzystać z sieci neuronowych w sytuacjach krytycznychw przypadku scenariuszy związanych z bezpieczeństwem musieliśmy dowiedzieć się, jak podejmować decyzje w czasie rzeczywistym w oparciu o najgorsze założenia – wyjaśniają autorzy artykułu.
Dlatego zespół starał się polegać na jeszcze jednymforma uczenia maszynowego, która nie wymaga wiązania oznaczonych danych wejściowych z danymi wyjściowymi, ale raczej ma na celu wzmocnienie pewnych działań w odpowiedzi na dane wejściowe. Podejście to jest powszechnie używane do uczenia komputerów, jak grać w szachy i grać w Go.
Autorzy są przekonani, że nowy algorytm CARRL może pomóc robotom bezpiecznie radzić sobie z nieprzewidywalnymi interakcjami w prawdziwym świecie.
Czytaj więcej
Fizycy stworzyli analogię czarnej dziury i potwierdzili teorię Hawkinga. Dokąd to prowadzi?
Algorytm odkrył nową tajemniczą warstwę wewnątrz Ziemi
Z powodu Słońca atmosfera ziemska utraci cały wolny tlen