NVIDIA выпустила новый флагманский процессор H200 для систем с искусственным интеллектом

Компания NVIDIA представила свой новый топовый чип для задач искусственного интеллекта – H200, который предназначен заменить предшественника H100. Новый чип сохраняет внешний вид H100, но получил важное обновление в памяти – использует более быстрый и вместительный тип памяти HBM3e.

Одним из ключевых улучшений ставшей памяти является увеличение пропускной способности до 4,8 Тбайт/с, по сравнению с 3,35 Тбайт/с у H100. Общий объем памяти также увеличился с 80 до 141 Гбайт. По заявлению NVIDIA, новый чип демонстрирует почти двукратный рост производительности в задачах генеративного искусственного интеллекта по сравнению с H100. Эта оценка основана на тестировании языковых моделей, таких как GPT-3 и Llama 2.

NVIDIA H200 полностью совместим с существующими системами, поддерживающими H100. Облачные подразделения Amazon, Google, Microsoft и Oracle будут одними из первых, кто предложит новые чипы своим клиентам. Первые поставки H200 ожидаются во втором квартале 2024 года. Относительно цены она на данный момент неизвестна, но по информации СМИ, H100 продается от $25 000 до $40 000.

Анонс нового чипа произошел в условиях обостренного дефицита чипов NVIDIA для искусственного интеллекта. Компания также планирует наращивать производство модели H100 в следующем году, поскольку она остается востребованной среди разработчиков искусственного интеллекта.