Nvidia счупи своя рекорд за скорост благодарение на нов AI чип

Вчера Nvidia обяви, че нейният предстоящ H100 GPU “Hopper” Tensor Core инсталира нови

рекорди за изпълнение по време на неговиядебютира в индустриалния стандартен бенчмарк MLPerf, публикувайки резултати 4,5 пъти по-бързи от A100, който в момента е най-бързият производствен AI чип на Nvidia. Ars Technica съобщава за това. Обсъдете

MPerf бенчмаркове измерват натоварванията"изходи", които демонстрират колко добре чипът може да приложи предварително обучен модел на машинно обучение към нови данни. Група индустриални компании, известни като MLCommons, разработиха бенчмарковете MLPerf през 2018 г., за да осигурят стандартизирана метрика за представяне на ефективността на машинното обучение на потенциални клиенти.

По-специално, H100 се представи добре вBERT-голям бенчмарк, който измерва производителността на обработката на естествен език с помощта на модела BERT, разработен от Google. Nvidia приписва този конкретен резултат на Transformer Engine на Hopper архитектурата, която конкретно ускорява обучението на трансформационни модели. Това означава, че H100 може да ускори бъдещите модели на естествен език като GPT-3 на OpenAI, който може да съставя писане в различни стилове и чат разговори.

Предвижда се чипът, който все още е в процес на разработка, да замени A100 като водещ GPU на компанията за центрове за данни.