AMD представила процесори з ШІ: Instinct MI300X та Instinct M1300A для ЦОД і Ryzen 8040 для ноутбуків

Компанія AMD готується до випуску чіпів для обробки завдань штучного інтелекту, зокрема для запуску великих мовних моделей (LLM). У новинках – прискорювач Instinct MI300X та процесор Instinct M1300A (APU), які призначені для навчання та управління LLM. Обидва чіпи відрізняються великою обсягом пам’яті та покращеною енергоефективністю.

Компанія представила прискорювач Instinct MI300X та процесор Instinct M1300A (APU), які призначені для навчання та управління LLM. Обидва нові чипи відрізняються великим обсягом пам’яті та покращеною енергоефективністю порівняно з попередниками. Компанія заявила, що MI300X має у 1,5 раза більше пам’яті, ніж попередня версія M1250X.

Заявлено, що MI300X порівняний з чіпами Nvidia H100 у навчанні LLM, але працює краще на стороні виведення ─ в 1,4 раза краще, ніж H100, при роботі з Meta Llama 2, LLM з 70 млрд параметрів.

AMD уклала партнерську угоду з Microsoft, щоб розмістити MI300X на її віртуальних машинах Azure. Технічний директор Microsoft Кевін Скотт також оголосив, що віртуальні машини Azure ND MI300X, вперше представлені в листопаді, доступні в попередній версії. Meta також оголосила, що розгорне процесори MI300 у своїх центрах обробки даних.

А ще в AMD заявили, що MI300A пропонує більш продуктивні обчислення, швидке навчання моделей та 30-кратне підвищення енергоефективності. Також наголошується, що в порівнянні з H100 у нового чипа в 1,6 раза більше пам’яті. Він також має уніфіковану пам’ять, тому більше не потрібно переміщати дані з різних пристроїв.

AMD також анонсувала мобільний процесор Ryzen 8040, який додасть відповідним пристроям більше вбудованих функцій штучного інтелекту. Компанія заявила, що серія 8040 пропонує в 1,6 раза більшу продуктивність при обробці завдань ШІ, ніж попередні моделі, і включає нейронний процесор (NPU). Крім ШІ процесор Ryzen 8040 пропонує інші переваги. Наприклад, він забезпечує приріст продуктивності під час редагування відео на 65%, а в іграх – на 77% порівняно з конкуруючими рішеннями.

В AMD очікують, що такі компанії, як Acer, Asus, Dell, HP, Lenovo та Razer, випустять свої пристрої із чипами Ryzen 8040 у першому кварталі 2024 року.