NVIDIA анонсировала ускоритель H100 NVL с двумя процессорами GH100 для ChatGPT и нейросетей
27.03.23
NVIDIA анонсировала ускоритель H100 NVL. Это сдвоенная модификация H100 с увеличенным объемом и пропускной способностью памяти. Он рассчитан на работу больших языковых моделей, вроде семейства GPT от компании OpenAI,
Ускоритель NVIDIA H100 NVL фактически представляет собой две карты расширения PCI Express 5.0 x16, объединенные с помощью интерфейса NVLink (600 Гбайт/с). На сервере такое устройство займет четыре слота. Каждая половинка выполнена на 4-нм процессоре GH100, характеризуется максимальным TDP 350-400 Вт и обеспечивает вычислительную мощность уровня SXM-версии H100.
Но главной особенностью ускорителя является подсистема памяти. В новом варианте процессора GH100 активно шесть стеков многослойной памяти HBM3, в то время как выпущенные ранее версии были ограничены пятью. Это не только увеличило объем буфера, но повысило его пропускную способность. Релиз Nvidia H100 NVL запланирован на вторую половину этого года.
К слову, OpenAI официально представила новую модель искусственного интеллекта GPT-4 для чат-бота ChatGPT. Ранее в ChatGPT использовалась версия GPT-3.5.
Разница с GPT-4 тонка и не всегда очевидна, поскольку ИИ все еще имеет определенные ограничения, но возможности новой модели безусловно шире. Обновленная версия ИИ точнее в ответах и более «творческая». Она действительно мультимодальна, как упоминалось раньше, но в меньшей степени.
Нейросеть может воспринимать текст и изображение, но выдает ответы только в текстовой форме. GPT-4 умеет анализировать изображения для сложных интерпретаций и описания изображений. Система прошла шестимесячный курс обучения для повышения безопасности, и теперь вероятность ответов о запретном контенте ниже на 82%. Также упоминается, что точность предоставления фактических данных выше на 40%.
Не пропустите интересное!
Підписывайтесь на наши каналы и читайте анонсы хай-тек новостей, тестов и обзоров в удобном формате!
Обзор ноутбука ASUS Vivobook S 15 с процессором Qualcomm: перспективный?
Шасси ноутбуков ASUS Vivobook получилось настолько удачным что с ним можно встретить модели самого разного уровня. Неудивительно что Вивобук стал и платформой для обкатки процессоров от производителя мобильных чипов – компании Qualcomm
Монитор Redmi A27U от Xiaomi оснащен 4K панелью и зарядным портом USB-C мощностью 90 Вт
4K IPS Redmi монитор27-дюймовый монитор Redmi A27U с IPS-панелью, поддерживающий разрешение 4K (3840 x 2160) и частоту обновления 60 Гц. Основное нововведение — наличие порта USB Type-C с мощностью 90 Вт,
Новый сенсор Sony LYT-818 для камер смартфонов снимает заметно лучше при недостаточном освещении
Sony камера смартфонОдной из ключевых особенностей датчика Sony LYT-818 является схема сверхвысокого коэффициента усиления (UHCG), которая позволяет снимать более четкие фотографии при низком освещении