Naujas duomenų apdorojimo variklis daro giliuosius neuroninius tinklus protingesnius

„Funkcijų normalizavimas yra svarbus giliųjų neuroninių tinklų mokymo elementas ir dėmesys

funkcijos yra vienodai svarbios padėtitinklus, kad pabrėžtų, kurios iš neapdorotų duomenų išgautos funkcijos yra svarbiausios atliekant užduotis“, – aiškina Tianfu Wu, NC valstijos elektros ir kompiuterių inžinerijos docentas. „Bet dažniausiai jie buvo apdorojami atskirai. Pastebėjome, kad juos sujungę tapo veiksmingesni ir efektyvesni.

Norėdami išbandyti AN modulį,mokslininkai sujungė jį su keturiomis plačiausiai naudojamomis neuroninių tinklų architektūromis: „ResNets“, „DenseNets“, „MobileNetsV2“ ir „AOGNets“. Tada jie išbandė tinklus pagal dvi pramonės standartines metrikas: „ImageNet-1000“ klasifikavimo testą ir objektų aptikimo bei egzempliorių segmentavimo 2017 m. MS-COCO testą.

„Mes nustatėme, kad AN pagerėjovisų keturių architektūrų abiejų bandymų metu “, - sakė Wu. „Pavyzdžiui,„ ImageNet-1000 “„ Top-1 “tikslumas pagerėjo 0,5–2,7%. MS-COCO vidutinis tikslumo (AP) tikslumas padidėjo iki 1,8% ribojimo dėžutėje ir 2,2% semantinės kaukės. Kitas AN pranašumas yra tai, kad jis palengvina geresnį mokymosi perdavimą tarp skirtingų sričių. Pavyzdžiui, nuo vaizdo klasifikavimo „ImageNet“ iki objektų aptikimo ir semantinio segmentavimo MS-COCO. Tai iliustruoja našumo pagerėjimas pagal MS-COCO etaloną, kuris buvo gautas tiksliai sureguliavus giliuosius neuroninius tinklus, kuriuos anksčiau apmokė ImageNet MS-COCO ".

"Mes išleidome šaltinio kodą ir tikimės, kad mūsų AN padės geriau integruoti giliųjų neuroninių tinklų dizainą", - daro išvadą mokslininkai.

Taip pat skaitykite

Doomsday ledynas pasirodė pavojingesnis, nei manė mokslininkai. Mes pasakome pagrindinį dalyką

Vienu metu atsirado du nežemiškos gyvybės įrodymai. Vienas Veneroje, kitas - niekas nežino, kur

Paaiškėjo, kad Urano mėnuliai labiau panašūs į planetas