Google Ironwood – новий чіп компанії для операцій штучного інтелекту

Google представила новий чіп для ІІ прискорення під назвою Ironwood на своїй конференції Cloud Next. Це вже сьоме покоління TPU (Tensor Processing Unit) від компанії і він перший оптимізований для інферентних ШІ-моделей. Чіп буде доступний для клієнтів Google Cloud цього року у двох конфігураціях: кластер із 256 чіпів та кластер із 9216 чіпів.

Ironwood забезпечує потужність до 4614 TFLOPs, має 192 ГБ виділеної пам’яті ОЗП із пропускною здатністю до 7,4 Тбіт/c. Він також включає вдосконалене спеціалізоване ядро ​​SparseCore, яке розроблене для обробки специфічних даних. Архітектура чіпа спрямована на мінімізацію руху даних та затримок на чіпі, що допомагає знижувати енергоспоживання.

Ironwood стане важливою частиною стратегії Google щодо інтегрування ШІ у свої сервіси. Чіп буде інтегрований з AI Hypercomputer – модульним кластером обчислювальних ресурсів у Google Cloud, що дозволить ще ефективніше обробляти великі обсяги даних для ІІ.

Google анонсувала Ironwood на фоні збільшення конкуренції у сфері ШІ-прискорювачів. Хоча NVIDIA лідирує на ринку, інші компанії, такі як Amazon та Microsoft, також активно розвивають власні рішення. Amazon пропонує процесори Trainium, Inferentia та Graviton через свою платформу AWS, а Microsoft має свій чіп Cobalt 100 для ІІ, доступний через Azure.

Google підкреслює, що Ironwood є найбільш потужним та енергоефективним TPU на сьогоднішній день, і його архітектура дозволяє ефективно запускати інферентні ШІ-моделі.