Новият механизъм за обработка на данни прави дълбоките невронни мрежи по-интелигентни

„Нормализирането на характеристиките е важен елемент от обучението на дълбоки невронни мрежи и внимание към тях

функции е също толкова важно да се помогнемрежи, за да подчертае кои функции, извлечени от необработени данни, са най-важни за изпълнение на задачи“, обяснява Тианфу Ву, асистент по електротехника и компютърно инженерство в NC State. „Но най-вече те бяха обработени отделно. Открихме, че комбинирането им ги прави по-ефективни и ефективни.“

За да тествате вашия AN модул,изследователите са го свързали с четирите най-широко използвани архитектури на невронни мрежи: ResNets, DenseNets, MobileNetsV2 и AOGNets. След това тестваха мрежите спрямо стандартните две отраслови показатели: тест за класификация ImageNet-1000 и откриване на обекти и сегментиране на екземпляри 2017 MS-COCO тест.

„Открихме подобрена производителности за четирите архитектури в двата теста “, каза Ву. „Например точността Топ-1 в ImageNet-1000 се е подобрила с 0,5-2,7%. Точността на средната прецизност (AP) се увеличи до 1,8% за ограничаващото поле и 2,2% за семантичната маска в MS-COCO. Друго предимство на AN е, че улеснява по-добрия трансфер на обучение между различни домейни. Например от класификация на изображения в ImageNet до откриване на обект и семантично сегментиране в MS-COCO. Това се илюстрира от подобрението на производителността в бенчмарка MS-COCO, което беше получено чрез фина настройка на дълбоките невронни мрежи, предварително обучени от ImageNet в MS-COCO. "

„Пуснахме изходния код и се надяваме, че нашата AN ще доведе до по-добър интегративен дизайн на дълбоки невронни мрежи“, заключават учените.

Прочетете също

Ледникът на Страшния съд се оказа по-опасен, отколкото учените смятаха. Казваме основното

Изведнъж се появиха две доказателства за извънземен живот. Единият на Венера, другият - никой не знае къде

Оказа се, че луните на Уран са по-скоро като планети