Vďaka novému motoru na spracovanie údajov sú hlboké neurónové siete inteligentnejšie

„Normalizácia funkcií je dôležitým prvkom tréningu hlbokých neurónových sietí a pozornosti

funkcie je rovnako dôležité pomáhaťsiete, aby sme zdôraznili, ktoré funkcie extrahované z nespracovaných údajov sú najdôležitejšie pre dokončenie úloh,“ vysvetľuje Tianfu Wu, odborný asistent elektrotechniky a počítačového inžinierstva na NC State. „Ale väčšinou boli spracované oddelene. Zistili sme, že ich kombináciou sú efektívnejšie a efektívnejšie.“

Ak chcete otestovať svoj modul AN,vedci ho zapojili do štyroch najbežnejšie používaných architektúr neurónových sietí: ResNets, DenseNets, MobileNetsV2 a AOGNets. Potom testovali siete na dve priemyselné štandardné metriky: test klasifikácie ImageNet-1000 a detekciu objektov a segmentáciu inštancií 2017 MS-COCO test.

"Zistili sme, že AN zlepšil výkon."pre všetky štyri architektúry v obidvoch testoch, “uviedol Wu. „Napríklad presnosť Top-1 v ImageNet-1000 sa zlepšila o 0,5-2,7%. Priemerná presnosť (AP) sa zvýšila na 1,8% pre ohraničujúci rámček a 2,2% pre sémantickú masku v MS-COCO. Ďalšou výhodou AN je, že uľahčuje lepší prenos učenia medzi rôznymi doménami. Napríklad od klasifikácie obrázkov v ImageNet po detekciu objektov a sémantickú segmentáciu v MS-COCO. To dokazuje zlepšenie výkonu v referenčnej hodnote MS-COCO, ktorá sa získala jemným vyladením hlbokých neurónových sietí, ktoré predtým trénovala spoločnosť ImageNet v spoločnosti MS-COCO. “

"Vydali sme zdrojový kód a dúfame, že náš AN povedie k lepšiemu integrujúcemu dizajnu pre hlboké neurónové siete," uzatvárajú vedci.

Prečítajte si tiež

Ľadovec Doomsday sa ukázal byť nebezpečnejším, ako si vedci mysleli. Hovoríme to hlavné

Naraz sa objavili dva dôkazy o mimozemskom živote. Jeden na Venuši, druhý - nikto nevie kde

Ukázalo sa, že mesiace Uránu sú skôr planétami