NVIDIA анонсувала прискорювач H100 NVL з двома процесорами GH100 для ChatGPT та нейромереж

NVIDIA анонсувала прискорювач H100 NVL. Це здвоєна модифікація H100 зі збільшеним об’ємом та пропускною здатністю пам’яті. Він розрахований для роботи великих мовних моделей, на кшталт сімейства GPT від компанії OpenAI,

Прискорювач NVIDIA H100 NVL фактично є двома картами розширення PCI Express 5.0 x16, об’єднаними за допомогою інтерфейсу NVLink (600 Гбайт/с). У сервері такий пристрій займе чотири слоти. Кожна половинка виконана на 4-нм процесорі GH100, характеризується максимальним TDP 350-400 Вт та забезпечує обчислювальну потужність рівня SXM-версії H100.

Але головною особливістю прискорювача є підсистемі пам’яті. У новому варіанті процесора GH100 активно шість стеків багатошарової пам’яті HBM3, тоді як випущені раніше версії були обмежені п’ятьма. Це не лише збільшило обсяг буфера, але й підвищило його пропускну здатність. Реліз Nvidia H100 NVL заплановано на другу половину цього року.

До слова, OpenAI офіційно презентувала нову модель штучного інтелекту GPT-4 для чат-боту ChatGPT. Раніше у ChatGPT використовувалася версія GPT-3.5.

Різниця з GPT-4 тонка і не завжди явна, оскільки ШІ все ще має певні обмеження, але можливості нової моделі безумовно ширші. Оновлена версія ШІ точніше у відповідях та більш «творча». Вона дійсно мультимодальна, як згадувалося раніше, але меншою мірою.

Нейромережа може сприймати текст і зображення, але видає відповіді лише у текстовій формі. GPT-4 вміє аналізувати зображення для складних інтерпретацій та опису зображеного. Система пройшла шестимісячний курс навчання для підвищення безпеки, і тепер ймовірність відповідей про заборонений контент нижче на 82%. Також згадується, що точність надання фактичних даних вища на 40%.