Nvidia brak zijn snelheidsrecord dankzij een nieuwe AI-chip

Gisteren maakte Nvidia bekend dat de aankomende H100 GPU “Hopper” Tensor Core heeft nieuwe geïnstalleerd

prestatierecords tijdens zijndebuteerde in de industriestandaard benchmark MLPerf en boekte 4,5 keer sneller resultaten dan de A100, die momenteel Nvidia's snelste productie-AI-chip is. Ars Technica meldt dit. Bespreek

MPerf-benchmarks meten de werklast"outputs" die aantonen hoe goed de chip een vooraf getraind machine learning-model op nieuwe gegevens kan toepassen. Een groep industriële bedrijven, bekend als MLCommons, heeft de MLPerf-benchmarks in 2018 ontwikkeld om een ​​gestandaardiseerde maatstaf te bieden voor het presenteren van machine learning-prestaties aan potentiële klanten.

Met name de H100 presteerde goed inBERT-Large benchmark, die de prestaties van natuurlijke taalverwerking meet met behulp van het door Google ontwikkelde BERT-model. Nvidia schrijft dit specifieke resultaat toe aan de Transformer Engine van de Hopper-architectuur, die specifiek de training van transformatiemodellen versnelt. Dit betekent dat de H100 toekomstige natuurlijke taalmodellen kan versnellen, zoals OpenAI's GPT-3, die schrijven in verschillende stijlen en chatgesprekken kan samenstellen.

De chip, die nog in ontwikkeling is, zal naar verwachting de A100 vervangen als de vlaggenschip-GPU van het datacenter van het bedrijf.