PCIe-ускоритель NVIDIA A100 получил 80 ГБ памяти HBM2e

NVIDIA выпустила PCIe-ускоритель A100, в котором установлено 80 ГБ HBM2e-памяти. Новая версия A100 не только в два раза увеличила объём памяти типа HBM2e, но и подняла на 25 % её пропускную способность — до 2 Тбайт/с.

В новых микросхемах HBM2E компания-производитель SK Hynix объединила восемь 16-гигабитных (2 ГБ) кристаллов через вертикальные межкремниевые соединения through-silicon-via (TSV). Соответственно, ёмкость такого чипа составляет 16 ГБ.

Интерфейс NVLink третьего поколения позволяет объединять подобные ускорители в связки для повышения производительности системы, а технология виртуализации позволяет одному графическому процессору делить физические ресурсы на семь независимых сегментов, что очень удобно для аренды мощностей в облачных системах.

До сих пор получить NVIDIA A100 с 80 ГБ памяти можно было только в исполнении SXM4, которое ориентировано на использование в серверных системах. Версия A100 с интерфейсом PCI Express 4.0 до сих пор предлагалась только с 40 ГБ памяти типа HBM2e. Теперь отставание устранено, и плата с интерфейсом PCI Express 4.0 размещает по соседству графический процессор A100 с архитектурой Ampere и 80 ГБ памяти типа HBM2e.

Выпускаемый по 7-нм технологии компанией TSMC графический процессор NVIDIA A100 имеет 54 млрд транзисторов на кристалле площадью 826 мм², он обладает 6912 ядрами CUDA, 432 тензорными ядрами, и обеспечивает быстродействие до 9,7 терафлопс в операциях с плавающей запятой двойной точности (FP64).