Новий модуль обробки даних робить глибокі нейронні мережі розумніший

«Нормалізація характеристик є важливим елементом навчання глибоких нейронних мереж, та увага до

функцій не менш важливо для того, щоб допомогтимережам виділити, які функції, вилучені з необроблених даних, є найважливішими для виконання завдань», — пояснює Тіанфу Ву, доцент кафедри електротехніки та обчислювальної техніки у NC State. «Але переважно вони оброблялися окремо. Ми виявили, що їхнє об'єднання зробило їх більш ефективними та дієвими».

Щоб протестувати свій AN-модуль,дослідники підключили його до чотирьох найбільш широко використовуваним архитектурам нейронних мереж: ResNets, DenseNets, MobileNetsV2 і AOGNets. Потім вони протестували мережі від стандартних двох галузевих показників: класифікація ImageNet -1000 тест і виявлення об'єкта і сегментація примірника тест MS-COCO 2017 року.

«Ми виявили, що AN поліпшив продуктивністьдля всіх чотирьох архітектур в обох тестах », - заявив Ву. «Наприклад, точність Top-1 в ImageNet -1000 покращилася на 0,5-2,7%. Точність середньої точності (AP) збільшилася до 1,8% для обмежує рамки і 2,2% для семантичної маски в MS-COCO. Ще одна перевага AN полягає в тому, що він сприяє кращій передачі навчання між різними доменами. Наприклад, від класифікації зображень в ImageNet до виявлення об'єктів і семантичної сегментації в MS-COCO. Це ілюструється поліпшенням продуктивності в тесті MS-COCO, яке було отримано шляхом точного налаштування глибоких нейронних мереж, попередньо навчених ImageNet в MS- COCO ».

«Ми випустили вихідний код і сподіваємося, що наша AN приведе до кращого интегративному дизайну глибоких нейронних мереж» - роблять висновок вчені.

Читати також

Льодовик «Судного дня» виявився небезпечніше, ніж думали вчені. розповідаємо головне

З'явилося відразу два докази позаземного життя. Одне на Венері, інше - невідомо де

З'ясувалося, що супутники Урана більше схожі на планети