Nvidia quebrou seu recorde de velocidade graças a um novo chip AI

Ontem, a Nvidia anunciou que sua próxima GPU H100 “Hopper” Tensor Core instalou novos

recordes de desempenho durante seuestreou no benchmark padrão da indústria MLPerf, postando resultados 4,5 vezes mais rápido que o A100, que é atualmente o chip AI de produção mais rápido da Nvidia. Ars Technica relata isso.

Benchmarks MPerf medem cargas de trabalho“resultados” que demonstram quão bem o chip pode aplicar um modelo de aprendizado de máquina pré-treinado a novos dados. Um grupo de empresas do setor conhecido como MLCommons desenvolveu os benchmarks MLPerf em 2018 para fornecer uma métrica padronizada para apresentar o desempenho do aprendizado de máquina a clientes em potencial.

Em particular, o H100 teve um bom desempenho emBenchmark BERT-Large, que mede o desempenho do processamento de linguagem natural usando o modelo BERT desenvolvido pelo Google. A Nvidia atribui esse resultado específico ao Transformer Engine da arquitetura Hopper, que acelera especificamente o treinamento dos modelos de transformação. Isso significa que o H100 pode acelerar futuros modelos de linguagem natural como o GPT-3 da OpenAI, que pode compor escrita em uma variedade de estilos e conversas de bate-papo.

O chip, que ainda está em desenvolvimento, deverá substituir o A100 como principal GPU de data center da empresa.