Nvidia prekonala svoj rýchlostný rekord vďaka novému AI čipu

Včera Nvidia oznámila, že jej pripravovaný GPU H100 “Hopper” Tensor Core nainštaloval nové

výkonové rekordy počas jehodebutoval v štandardnom štandardnom benchmarku MLPerf a odosielal výsledky 4,5-krát rýchlejšie ako A100, ktorý je v súčasnosti najrýchlejším produkčným čipom AI spoločnosti Nvidia. Informuje o tom Ars Technica

Benchmarky MPerf merajú pracovné zaťaženie„výstupy“, ktoré demonštrujú, ako dobre dokáže čip aplikovať predtrénovaný model strojového učenia na nové dáta. Skupina priemyselných spoločností známych ako MLCommons vyvinula benchmarky MLPerf v roku 2018 s cieľom poskytnúť štandardizovanú metriku na prezentáciu výkonnosti strojového učenia potenciálnym klientom.

Najmä model H100 si viedol dobreBERT-Large benchmark, ktorý meria výkon spracovania prirodzeného jazyka pomocou BERT modelu vyvinutého spoločnosťou Google. Nvidia tento konkrétny výsledok pripisuje Transformer Engine architektúry Hopper, ktorý špecificky urýchľuje trénovanie transformačných modelov. To znamená, že H100 môže urýchliť budúce modely prirodzeného jazyka, ako je OpenAI GPT-3, ktorý dokáže písať v rôznych štýloch a konverzácie cez chat.

Predpokladá sa, že čip, ktorý je stále vo vývoji, nahradí A100 ako vlajkovú loď GPU dátového centra spoločnosti.