Nowy silnik przetwarzania danych sprawia, że ​​głębokie sieci neuronowe są inteligentniejsze

„Normalizacja cech jest ważnym elementem uczenia głębokich sieci neuronowych i należy na to zwrócić uwagę

funkcje są równie ważne, aby pomócsieci, aby podkreślić, które funkcje wyodrębnione z surowych danych są najważniejsze dla wykonania zadań” – wyjaśnia Tianfu Wu, adiunkt inżynierii elektrycznej i komputerowej w NC State. „Ale przeważnie były przetwarzane osobno. Odkryliśmy, że połączenie ich uczyniło je bardziej wydajnymi i skutecznymi”.

Aby przetestować swój moduł AN,badacze połączyli go z czterema najczęściej używanymi architekturami sieci neuronowych: ResNets, DenseNets, MobileNetsV2 i AOGNets. Następnie przetestowali sieci pod kątem dwóch standardowych wskaźników branżowych: testu klasyfikacji ImageNet-1000 oraz wykrywania obiektów i segmentacji instancji 2017 testu MS-COCO.

„Odkryliśmy, że AN poprawiła wydajnośćdla wszystkich czterech architektur w obu testach ”- powiedział Wu. „Na przykład dokładność Top-1 w ImageNet-1000 poprawiła się o 0,5-2,7%. Średnia dokładność (AP) wzrosła do 1,8% dla ramki granicznej i 2,2% dla maski semantycznej w MS-COCO. Kolejną zaletą AN jest to, że ułatwia lepsze przenoszenie wiedzy między różnymi dziedzinami. Na przykład, od klasyfikacji obrazów w ImageNet do wykrywania obiektów i semantycznej segmentacji w MS-COCO. Ilustruje to poprawa wydajności w teście porównawczym MS-COCO, który uzyskano dzięki dostrojeniu głębokich sieci neuronowych, uprzednio przeszkolonych przez ImageNet w MS-COCO ”.

„Udostępniliśmy kod źródłowy i mamy nadzieję, że nasza sieć AN doprowadzi do lepszego zintegrowanego projektowania głębokich sieci neuronowych” - podsumowują naukowcy.

Czytaj także

Lodowiec Doomsday okazał się bardziej niebezpieczny, niż sądzili naukowcy. Mówimy najważniejsze

Jednocześnie pojawiły się dwa dowody życia pozaziemskiego. Jeden na Wenus, drugi - nikt nie wie gdzie

Okazało się, że księżyce Urana bardziej przypominają planety