Noul motor de procesare a datelor face ca rețelele neuronale profunde să fie mai inteligente

„Normalizarea caracteristicilor este un element important al antrenării rețelelor neuronale profunde și al atenției

funcțiile este la fel de important să ajuterețele pentru a evidenția caracteristicile extrase din datele brute care sunt cele mai importante pentru îndeplinirea sarcinilor”, explică Tianfu Wu, profesor asistent de inginerie electrică și informatică la NC State. „Dar în mare parte au fost procesate separat. Am descoperit că combinarea acestora le-a făcut mai eficiente și mai eficiente.”

Pentru a testa modulul AN,Cercetătorii l-au conectat la cele mai utilizate arhitecturi de rețele neuronale: ResNets, DenseNets, MobileNetsV2 și AOGNets. Apoi au testat rețelele în raport cu două metrici standard din industrie: testul de clasificare ImageNet-1000 și detectarea obiectelor și segmentarea instanței 2017 testul MS-COCO.

„Am constatat că AN a îmbunătățit performanțapentru toate cele patru arhitecturi din ambele teste ”, a spus Wu. „De exemplu, precizia Top-1 în ImageNet-1000 s-a îmbunătățit cu 0,5-2,7%. Precizia medie (AP) a crescut la 1,8% pentru caseta de delimitare și 2,2% pentru masca semantică în MS-COCO. Un alt avantaj al AN este că facilitează un transfer mai bun de învățare între diferite domenii. De exemplu, de la clasificarea imaginilor în ImageNet la detectarea obiectelor și segmentarea semantică în MS-COCO. Acest lucru este ilustrat de îmbunătățirea performanței în benchmark-ul MS-COCO, care a fost obținut prin reglarea fină a rețelelor neuronale profunde pregătite anterior de ImageNet la MS-COCO. "

„Am lansat codul sursă și sperăm că AN-ul nostru va conduce la o mai bună proiectare integrativă a rețelelor neuronale profunde”, concluzionează oamenii de știință.

Citește și

Ghețarul Doomsday s-a dovedit a fi mai periculos decât credeau oamenii de știință. Spunem principalul lucru

Două dovezi ale vieții extraterestre au apărut simultan. Una pe Venus, cealaltă - nimeni nu știe unde

S-a dovedit că lunile lui Uranus seamănă mai mult cu planetele