NVIDIA представила нове покоління платформи GH200 Grace Hopper для обчислень у галузі штучного інтелекту. Це спеціалізований суперчип, який включає CPU з 72 ARM-ядрами, GPU Hopper H100 з 96 ГБ пам’яті HBM3 та 480 ГБ пам’яті LPDDR5X.  NVIDIA переводить пристрій на пам’ять HBM3e з більшою місткістю та пропускною здатністю.

У пам’яті HBM3e швидкість передачі даних на 50% вища у порівнянні з чинним стандартом HBM3, що забезпечує пропускну здатність до 5 ТБ/с на чип та до 10 ТБ/с для двочипової системи GH200. Локальна пам’ять графічного процесора Hopper розширена з 96 ГБ до 144 ГБ (6 стеків HBM3e по 24 ГБ). Це найшвидший графічний процесор для ШІ у світі з найбільшим обсягом пам’яті.

фото servethehome.com

Оновлені системи NVIDIA GH200 Grace Hopper повністю сумісні із серверною архітектурою NVIDIA MGX. Це дозволить замовникам поєднувати різні системи. Також можлива проста міграція на оновлену версію GH200. При цьому постачання GH200 першої версії розпочнеться лише цього року. А друге покоління із HBM3e буде доступне з другого кварталу 2024 року.