Nvidia și-a doborât recordul de viteză datorită unui nou cip AI

Ieri, Nvidia a anunțat că viitorul său GPU H100 “Hopper” Tensor Core a instalat altele noi

înregistrările de performanţă în timpul luia debutat în standardul de referință din industrie MLPerf, postând rezultate de 4,5 ori mai rapid decât A100, care este în prezent cel mai rapid cip AI de producție al Nvidia. Ars Technica raportează acest lucru

Benchmark-urile MPerf măsoară sarcinile de lucru„ieșiri” care demonstrează cât de bine poate aplica cipul un model de învățare automată pre-antrenat la date noi. Un grup de companii din industrie cunoscut sub numele de MLCommons a dezvoltat criteriile de referință MLPerf în 2018 pentru a oferi o măsurătoare standardizată pentru prezentarea performanței învățării automate către potențialii clienți.

În special, H100 a funcționat bine înBERT-Large benchmark, care măsoară performanța prelucrării limbajului natural folosind modelul BERT dezvoltat de Google. Nvidia atribuie acest rezultat particular motorului Transformer al arhitecturii Hopper, care accelerează în mod special antrenarea modelelor de transformare. Aceasta înseamnă că H100 poate accelera viitoarele modele de limbaj natural, cum ar fi GPT-3 de la OpenAI, care poate compune scriere într-o varietate de stiluri și conversații prin chat.

Cipul, care este încă în dezvoltare, va înlocui A100 ca GPU emblematic al centrului de date al companiei.