Google Ironwood — новый чип компании для операций искусственного интеллекта

Google представила новый чип для ИИ-ускорения под названием Ironwood на своей конференции Cloud Next. Это уже седьмое поколение TPU (Tensor Processing Unit) от компании, и он первый оптимизирован для инферентных ШИ-моделей. Чип будет доступен для клиентов Google Cloud в этом году в двух конфигурациях: кластер из 256 чипов и кластер из 9216 чипов.

Ironwood обеспечивает мощность до 4614 TFLOPs, имеет 192 ГБ выделенной памяти ОЗУ с пропускной способностью до 7,4 Тбит/c. Он также включает в себя усовершенствованное специализированное ядро ​​SparseCore, которое разработано для обработки специфических данных. Архитектура чипа направлена ​​на минимизацию движения данных и задержек на чипе, что помогает снижать энергопотребление.

Ironwood станет важной частью стратегии Google по интегрированию ИИ в свои сервисы. Чип будет интегрирован с AI Hypercomputer – модульным кластером вычислительных ресурсов в Google Cloud, что позволит еще более эффективно обрабатывать большие объемы данных для ИИ.

Google анонсировала Ironwood на фоне увеличения конкуренции в области ИИ-ускорителей. Хотя NVIDIA лидирует на рынке, другие компании, такие как Amazon и Microsoft, также активно развивают собственные решения. Amazon предлагает процессоры Trainium, Inferentia и Graviton через свою платформу AWS, а Microsoft имеет свой чип Cobalt 100 для ИИ, доступный через Azure.

Google подчеркивает, что Ironwood является наиболее мощным и энергоэффективным TPU на сегодняшний день, и его архитектура позволяет эффективно запускать инферентные ШИ-модели.