Nvidia slog sitt hastighetsrekord tack vare ett nytt AI-chip

I går meddelade Nvidia att dess kommande H100 GPU “Hopper” Tensor Core installerade nya

prestationsrekord under sindebuterade i industristandardens benchmark MLPerf och publicerade resultat 4,5 gånger snabbare än A100, som för närvarande är Nvidias snabbaste produktion av AI-chip. Ars Technica rapporterar detta. Diskutera

MPerf benchmarks mäter arbetsbelastningar"outputs" som visar hur väl chippet kan tillämpa en förtränad maskininlärningsmodell på ny data. En grupp industriföretag som kallas MLCommons utvecklade MLPerf-riktmärkena under 2018 för att tillhandahålla ett standardiserat mått för att presentera maskininlärningsprestanda för potentiella kunder.

Speciellt presterade H100 bra iBERT-Large benchmark, som mäter prestandan för naturlig språkbehandling med hjälp av BERT-modellen utvecklad av Google. Nvidia tillskriver detta specifika resultat till Transformer Engine of the Hopper-arkitekturen, som specifikt påskyndar träningen av transformationsmodeller. Detta innebär att H100 kan accelerera framtida naturliga språkmodeller som OpenAI:s GPT-3, som kan komponera skrift i en mängd olika stilar och chattkonversationer.

Chipet, som fortfarande är under utveckling, spås ersätta A100 som företagets flaggskepps GPU för datacenter.