Nvidia slog sin hastighedsrekord takket være en ny AI-chip

I går annoncerede Nvidia, at dens kommende H100 GPU “Hopper” Tensor Core installerede nye

præstationsrekorder under hansdebuterede i industristandarden benchmark MLPerf, med resultater 4,5 gange hurtigere end A100, som i øjeblikket er Nvidias hurtigste produktions-AI-chip. Ars Technica rapporterer dette. Diskuter

MPerf benchmarks måler arbejdsbelastninger"output", der demonstrerer, hvor godt chippen kan anvende en forudtrænet maskinlæringsmodel til nye data. En gruppe af industrivirksomheder kendt som MLCommons udviklede MLPerf-benchmarks i 2018 for at levere en standardiseret metrisk til præsentation af maskinlæringsydelse for potentielle kunder.

Især H100 klarede sig godt iBERT-Large benchmark, som måler ydeevnen af ​​naturlig sprogbehandling ved hjælp af BERT-modellen udviklet af Google. Nvidia tilskriver dette særlige resultat til Transformer Engine of the Hopper-arkitekturen, som specifikt fremskynder træningen af ​​transformationsmodeller. Dette betyder, at H100 kan accelerere fremtidige naturlige sprogmodeller som OpenAI's GPT-3, der kan skrive skrivning i en række forskellige stilarter og chatsamtaler.

Chippen, som stadig er under udvikling, forventes at erstatte A100 som virksomhedens flagskibs-datacenter-GPU.