IBM офіційно представила свої нові чіпи для роботи зі штучним інтелектом, включаючи процесор Telum II і прискорювачі AI Spyre, призначені для мейнфреймів серії IBM Z. Ці чіпи значно прискорюють виконання традиційних ІІ-задач і роботу з великими мовними моделями на серверних системах IBM.

Процесор Telum II оснащений вісьмома високопродуктивними ядрами з тактовою частотою 5,5 ГГц. Кожне ядро ​​має 36 МБ кеш-пам’яті другого рівня, а загальний обсяг вбудованої кеш-пам’яті сягає 360 МБ. Віртуальна кеш-пам’ять четвертого рівня підтримує обсяг до 2,88 ГБ на процесорний блок, що на 40% більше у порівнянні з попереднім поколінням. Ядра отримали покращене передбачення розгалужень, 160 регістрів та знижене на 15% енергоспоживання.

Telum II оснащений вбудованим AI-прискорювачем, що забезпечує високу продуктивність операцій виведення з низькими затримками та високою пропускною здатністю. Продуктивність прискорювача складає 24 TOPS на один процесор, 192 TOPS на блок та 768 TOPS на систему. На додаток до цього процесор включає новий блок прискорення введення-виведення DPU, який збільшує щільність передачі даних на 50%. Чіп виробляють за технологією Samsung 5HPP, і він містить 43 мільярди транзисторів на кристалі площею 600 мм.

Прискорювачі Spyre призначені для корпоративного рівня та забезпечують продуктивність понад 300 TOPS у завданнях ІІ при об’ємі пам’яті LPDDR5 128 ГБ. У системі з вісьмома такими прискорювачами загальна пам’ять сягає 1 ТБ. Кожен прискорювач оснащений 32 обчислювальними ядрами, що підтримують типи даних INT4, INT8, FP8 та FP16, а рівень енергоспоживання (TDP) становить лише 75 Вт.

IBM планує розпочати постачання рішень із процесорами Telum II корпоративним клієнтам у 2025 році. Прискорювачі Spyre, що знаходяться на стадії ранньої технічної версії, також мають надійти у продаж наступного року.