NVIDIA представила обновленные суперчипы Grace Hopper для вычислений алгоритмов искусственного интеллекта

NVIDIA представила новое поколение платформы GH200 Grace Hopper для вычислений в области искусственного интеллекта. Это специализированный суперчип, который включает в себя CPU с 72 ARM-ядрами, GPU Hopper H100 с 96 ГБ памяти HBM3 и 480 ГБ памяти LPDDR5X. NVIDIA переводит устройство на память HBM3e с большей емкостью и пропускной способностью.

В памяти HBM3e скорость передачи данных на 50% выше по сравнению с действующим стандартом HBM3, обеспечивающим пропускную способность до 5 ТБ/с на чип и до 10 ТБ/с для двухчиповой системы GH200. Локальная память графического процессора Hopper расширена с 96 ГБ до 144 ГБ (6 стеков HBM3e по 24 ГБ). Это самый быстрый графический процессор для ИИ в мире с самым большим объемом памяти.

Обновленные системы NVIDIA GH200 Grace Hopper полностью совместимы с серверной архитектурой NVIDIA MGX. Это позволит заказчикам совмещать разные системы. Возможна простая миграция на обновленную версию GH200. При этом поставки GH200 первой версии начнутся только в этом году. А второе поколение HBM3e будет доступно со второго квартала 2024 года.