Nvidia ha battuto il suo record di velocità grazie a un nuovo chip AI

Ieri Nvidia ha annunciato che la sua prossima GPU H100 “Hopper” Tensor Core ne ha installati di nuovi

record di prestazioni durante il suoha debuttato nel benchmark standard del settore MLPerf, registrando risultati 4,5 volte più veloci dell'A100, che è attualmente il chip AI di produzione più veloce di Nvidia. Lo riporta Ars Technica

I benchmark MPerf misurano i carichi di lavoro"output" che dimostrano quanto bene il chip possa applicare un modello di apprendimento automatico pre-addestrato a nuovi dati. Un gruppo di aziende del settore noto come MLCommons ha sviluppato i benchmark MLPerf nel 2018 per fornire una metrica standardizzata per presentare le prestazioni di apprendimento automatico ai potenziali clienti.

In particolare, l'H100 si è comportato bene inbenchmark BERT-Large, che misura le prestazioni dell'elaborazione del linguaggio naturale utilizzando il modello BERT sviluppato da Google. Nvidia attribuisce questo particolare risultato al Transformer Engine dell'architettura Hopper, che velocizza in modo specifico l'addestramento dei modelli di trasformazione. Ciò significa che l'H100 può accelerare i futuri modelli di linguaggio naturale come GPT-3 di OpenAI, che può comporre la scrittura in una varietà di stili e conversazioni in chat.

Si prevede che il chip, che è ancora in fase di sviluppo, sostituirà l'A100 come GPU per data center di punta dell'azienda.