Jauns datu apstrādes dzinējs padziļina neironu tīklus

"Īpašību normalizācija ir svarīgs dziļo neironu tīklu apmācības elements un koncentrēšanās uz

Funkcijas ir vienlīdz svarīgas, lai palīdzētu tīkliem izcelt, kuras funkcijas, kas iegūtas no neapstrādātiem datiem, ir vissvarīgākās uzdevumu izpildei," skaidroTianfu Wu, NC State elektrotehnikas un datortehnikas docents."Bet lielākoties tie tika apstrādāti atsevišķi, un mēs atklājām, ka to apvienošana padarīja tos efektīvākus un iedarbīgākus."

Lai pārbaudītu AN moduli,pētnieki to ir savienojuši ar četrām visplašāk izmantotajām neironu tīkla arhitektūrām: ResNets, DenseNets, MobileNetsV2 un AOGNets. Pēc tam viņi pārbaudīja tīklus, izmantojot divus nozares standarta rādītājus: ImageNet-1000 klasifikācijas testu un objektu noteikšanas un gadījumu segmentēšanas 2017. gada MS-COCO testu.

“Mēs atklājām, ka AN uzlaboja sniegumuvisām četrām arhitektūrām abos testos, ”sacīja Vu. “Piemēram, ImageNet-1000 precizitāte Top-1 uzlabojās par 0,5-2,7%. MS-COCO vidējā precizitātes (AP) precizitāte ir palielinājusies līdz 1,8% ierobežojošajai kastei un 2,2% semantiskajai maskai. Vēl viena AN priekšrocība ir tā, ka tas veicina labāku mācību nodošanu starp dažādām jomām. Piemēram, no attēlu klasifikācijas ImageNet līdz objektu noteikšanai un semantiskai segmentēšanai MS-COCO. To ilustrē veiktspējas uzlabojums MS-COCO etalonā, kas tika iegūts, precīzi noregulējot dziļos neironu tīklus, kurus iepriekš apmācīja ImageNet MS-COCO. "

"Mēs esam izlaiduši pirmkodu un ceram, ka mūsu AN ļaus labāk integrēt dziļu neironu tīklu dizainu," secina zinātnieki.

Lasīt arī

Doomsday ledājs izrādījās bīstamāks, nekā domāja zinātnieki. Mēs sakām galveno

Uzreiz parādījās divi pierādījumi par ārpuszemes dzīvi. Viens Venērā, otrs - neviens nezina, kur

Izrādījās, ka Urāna pavadoņi vairāk līdzinās planētām