“La normalizzazione delle funzionalità è un elemento importante dell'addestramento delle reti neurali profonde e dell'attenzione
Per testare il tuo modulo AN,i ricercatori l'hanno collegato alle quattro architetture di rete neurale più utilizzate: ResNets, DenseNets, MobileNetsV2 e AOGNets. Hanno quindi testato le reti rispetto a due metriche standard del settore: test di classificazione ImageNet-1000 e rilevamento di oggetti e segmentazione delle istanze 2017 MS-COCO test.
"Abbiamo riscontrato prestazioni miglioriper tutte e quattro le architetture in entrambi i test ", ha detto Wu. “Ad esempio, la precisione Top-1 in ImageNet-1000 è migliorata dello 0,5-2,7%. L'accuratezza della precisione media (AP) è aumentata all'1,8% per il riquadro di delimitazione e al 2,2% per la maschera semantica in MS-COCO. Un altro vantaggio di AN è che facilita un migliore trasferimento dell'apprendimento tra diversi domini. Ad esempio, dalla classificazione delle immagini in ImageNet al rilevamento di oggetti e alla segmentazione semantica in MS-COCO. Ciò è illustrato dal miglioramento delle prestazioni nel benchmark MS-COCO, ottenuto perfezionando le reti neurali profonde precedentemente addestrate da ImageNet presso MS-COCO ".
"Abbiamo rilasciato il codice sorgente e speriamo che il nostro AN porti a una migliore progettazione integrativa delle reti neurali profonde", concludono gli scienziati.
Leggi anche
Il ghiacciaio Doomsday si è rivelato più pericoloso di quanto pensassero gli scienziati. Diciamo la cosa principale
Sono emerse contemporaneamente due prove di vita extraterrestre. Uno su Venere, l'altro - nessuno sa dove
Si è scoperto che le lune di Urano sono più simili ai pianeti