เมื่อวานนี้ Nvidia ประกาศว่า H100 GPU “Hopper” ติดตั้ง Tensor Core ใหม่แล้ว
เกณฑ์มาตรฐาน MPerf วัดปริมาณงาน"เอาต์พุต" ที่แสดงให้เห็นว่าชิปสามารถนำโมเดลการเรียนรู้ของเครื่องที่ได้รับการฝึกมาล่วงหน้าไปใช้กับข้อมูลใหม่ได้ดีเพียงใด กลุ่มบริษัทอุตสาหกรรมที่รู้จักกันในชื่อ MLCommons พัฒนาเกณฑ์มาตรฐาน MLPerf ในปี 2018 เพื่อมอบหน่วยวัดมาตรฐานสำหรับการนำเสนอประสิทธิภาพการเรียนรู้ของเครื่องจักรแก่ผู้มีโอกาสเป็นลูกค้า
โดยเฉพาะอย่างยิ่ง H100 ทำงานได้ดีในเกณฑ์มาตรฐาน BERT-Large ซึ่งวัดประสิทธิภาพของการประมวลผลภาษาธรรมชาติโดยใช้แบบจำลอง BERT ที่พัฒนาโดย Google Nvidia ให้ผลเฉพาะกับ Transformer Engine ของสถาปัตยกรรม Hopper ซึ่งช่วยเพิ่มความเร็วในการฝึกอบรมโมเดลการเปลี่ยนแปลงโดยเฉพาะ ซึ่งหมายความว่า H100 สามารถเร่งโมเดลภาษาธรรมชาติในอนาคต เช่น GPT-3 ของ OpenAI ซึ่งสามารถเขียนการเขียนได้หลากหลายสไตล์และการสนทนา
ชิปซึ่งยังอยู่ในระหว่างการพัฒนาคาดว่าจะมาแทนที่ A100 เป็น GPU ศูนย์ข้อมูลเรือธงของบริษัท