Ny databehandlingsmotor gør dybe neurale netværk smartere

"Funktionsnormalisering er et vigtigt element i træning af dybe neurale netværk og opmærksomhed på

funktioner er lige så vigtigt at hjælpenetværk for at fremhæve, hvilke funktioner, der er udtrukket fra rådata, der er vigtigst for at udføre opgaver,” forklarer Tianfu Wu, assisterende professor i elektro- og computerteknik ved NC State. "Men for det meste blev de behandlet separat. Vi fandt ud af, at kombinationen af ​​dem gjorde dem mere effektive."

For at teste dit AN-modul,forskerne tilsluttede det til de fire mest anvendte neurale netværksarkitekturer: ResNets, DenseNets, MobileNetsV2 og AOGNets. Derefter testede de netværkene mod to industristandardmålinger: ImageNet-1000 klassificeringstest og objektdetektion og instanssegmentering 2017 MS-COCO test.

”Vi fandt ud af, at AN forbedrede ydeevnenfor alle fire arkitekturer i begge test, ”sagde Wu. ”For eksempel er Top-1-nøjagtigheden i ImageNet-1000 forbedret med 0,5-2,7%. Den gennemsnitlige nøjagtighed (AP) steg til 1,8% for afgrænsningsboksen og 2,2% for den semantiske maske i MS-COCO. En anden fordel ved AN er, at det letter bedre overførsel af læring mellem forskellige domæner. For eksempel fra billedklassificering i ImageNet til objektdetektering og semantisk segmentering i MS-COCO. Dette illustreres af forbedringen af ​​ydeevnen i MS-COCO-benchmarket, som blev opnået ved at finjustere de dybe neurale netværk, der tidligere var uddannet af ImageNet på MS-COCO. "

”Vi har frigivet kildekoden og håber, at vores AN vil føre til bedre integrerende design af dybe neurale netværk,” konkluderer forskerne.

Læs også

Dommedagsbreen viste sig at være farligere end forskere troede. Vi fortæller det vigtigste

To eksempler på liv uden for jorden opstod på én gang. Den ene på Venus, den anden - ingen ved hvor

Det viste sig, at Uranus 'måner ligner mere planeter