Novo mecanismo de processamento de dados torna as redes neurais profundas mais inteligentes

“A normalização de recursos é um elemento importante do treinamento de redes neurais profundas e da atenção a

funções é igualmente importante para ajudarredes para destacar quais recursos extraídos de dados brutos são mais importantes para a conclusão de tarefas”, explica Tianfu Wu, professor assistente de engenharia elétrica e de computação na NC State. “Mas principalmente eles foram processados ​​separadamente. Descobrimos que combiná-los os tornou mais eficientes e eficazes.”

Para testar seu módulo AN,pesquisadores o conectaram às quatro arquiteturas de rede neural mais amplamente utilizadas: ResNets, DenseNets, MobileNetsV2 e AOGNets. Em seguida, eles testaram as redes em relação a duas métricas padrão do setor: teste de classificação ImageNet-1000 e detecção de objetos e segmentação de instância 2017 teste MS-COCO.

“Descobrimos que AN melhorou o desempenhopara todas as quatro arquiteturas em ambos os testes ”, disse Wu. “Por exemplo, a precisão do Top-1 no ImageNet-1000 melhorou em 0,5-2,7%. A exatidão da precisão média (AP) aumentou para 1,8% para a caixa delimitadora e 2,2% para a máscara semântica no MS-COCO. Outra vantagem da AN é que ela facilita uma melhor transferência de aprendizagem entre diferentes domínios. Por exemplo, desde a classificação de imagens no ImageNet até a detecção de objetos e segmentação semântica no MS-COCO. Isso é ilustrado pela melhoria de desempenho no benchmark MS-COCO, que foi obtido pelo ajuste fino das redes neurais profundas previamente treinadas pela ImageNet no MS-COCO. "

“Lançamos o código-fonte e esperamos que nosso AN leve a um melhor design integrativo para redes neurais profundas”, concluem os cientistas.

Leia também

A geleira Doomsday revelou-se mais perigosa do que os cientistas pensavam. Nós contamos o principal

Duas evidências de vida extraterrestre surgiram ao mesmo tempo. Um em Vênus, o outro - ninguém sabe onde

Descobriu-se que as luas de Urano são mais como planetas