Nieuwe gegevensverwerkingsengine maakt diepe neurale netwerken slimmer

"Normalisatie van kenmerken is een belangrijk element van diepe neurale netwerktraining, en de focus op

functies zijn net zo belangrijk om netwerken te helpen benadrukken welke functies die uit onbewerkte gegevens worden geëxtraheerd, het meest cruciaal zijn voor het voltooien van taken", legt uitTianfu Wu, universitair docent elektrotechniek en computertechniek aan NC State."Maar voor het grootste deel werden ze afzonderlijk behandeld en we ontdekten dat het combineren ervan ze efficiënter en effectiever maakte."

Om uw AN-module te testen,de onderzoekers hebben het aangesloten op de vier meest gebruikte neurale netwerkarchitecturen: ResNets, DenseNets, MobileNetsV2 en AOGNets. Vervolgens testten ze de netwerken aan de hand van twee industriestandaardstatistieken: ImageNet-1000-classificatietest en objectdetectie en instantiesegmentatie 2017 MS-COCO-test.

“We vonden AN verbeterde prestatiesvoor alle vier de architecturen in beide tests, ”zei Wu. “De nauwkeurigheid van de Top-1 in ImageNet-1000 is bijvoorbeeld met 0,5-2,7% verbeterd. De gemiddelde precisie (AP) -nauwkeurigheid nam toe tot 1,8% voor het selectiekader en 2,2% voor het semantische masker in MS-COCO. Een ander voordeel van AN is dat het een betere overdracht van leren tussen verschillende domeinen mogelijk maakt. Bijvoorbeeld van beeldclassificatie in ImageNet tot objectdetectie en semantische segmentatie in MS-COCO. Dit wordt geïllustreerd door de prestatieverbetering in de MS-COCO-benchmark, die werd verkregen door het verfijnen van de diepe neurale netwerken die eerder werden getraind door ImageNet bij MS-COCO. "

"We hebben de broncode vrijgegeven en hopen dat onze AN zal leiden tot een beter geïntegreerd ontwerp van diepe neurale netwerken", concluderen de wetenschappers.

Lees ook

De Doomsday-gletsjer bleek gevaarlijker te zijn dan wetenschappers dachten. We vertellen het belangrijkste

Twee bewijzen van buitenaards leven kwamen tegelijk naar voren. De ene op Venus, de andere - niemand weet waar

Het bleek dat de manen van Uranus meer op planeten lijken