NVIDIA анонсировала ускоритель H100 NVL с двумя процессорами GH100 для ChatGPT и нейросетей

NVIDIA анонсировала ускоритель H100 NVL. Это сдвоенная модификация H100 с увеличенным объемом и пропускной способностью памяти. Он рассчитан на работу больших языковых моделей, вроде семейства GPT от компании OpenAI,

Ускоритель NVIDIA H100 NVL фактически представляет собой две карты расширения PCI Express 5.0 x16, объединенные с помощью интерфейса NVLink (600 Гбайт/с). На сервере такое устройство займет четыре слота. Каждая половинка выполнена на 4-нм процессоре GH100, характеризуется максимальным TDP 350-400 Вт и обеспечивает вычислительную мощность уровня SXM-версии H100.

Но главной особенностью ускорителя является подсистема памяти. В новом варианте процессора GH100 активно шесть стеков многослойной памяти HBM3, в то время как выпущенные ранее версии были ограничены пятью. Это не только увеличило объем буфера, но повысило его пропускную способность. Релиз Nvidia H100 NVL запланирован на вторую половину этого года.

К слову, OpenAI официально представила новую модель искусственного интеллекта GPT-4 для чат-бота ChatGPT. Ранее в ChatGPT использовалась версия GPT-3.5.

Разница с GPT-4 тонка и не всегда очевидна, поскольку ИИ все еще имеет определенные ограничения, но возможности новой модели безусловно шире. Обновленная версия ИИ точнее в ответах и более «творческая». Она действительно мультимодальна, как упоминалось раньше, но в меньшей степени.

Нейросеть может воспринимать текст и изображение, но выдает ответы только в текстовой форме. GPT-4 умеет анализировать изображения для сложных интерпретаций и описания изображений. Система прошла шестимесячный курс обучения для повышения безопасности, и теперь вероятность ответов о запретном контенте ниже на 82%. Также упоминается, что точность предоставления фактических данных выше на 40%.