Розробники BitEnergy AI змогли знизити енергоспоживання систем для обчислень ШІ на 95%

Зростання енергоспоживання, пов’язане з розвитком штучного інтелекту, стає однією з найактуальніших проблем у технологічній галузі. Потреба в обчислювальних потужностях, необхідні тренування та експлуатації моделей ІІ, стрімко збільшується. Вже сьогодні потужні мовні моделі, такі як ChatGPT, щодня споживають значну кількість енергії – близько 564 МВт∙год, що достатньо для живлення близько 18 тисяч американських будинків. Прогнози на найближчі роки припускають, що до 2027 року енергоспоживання центрів обробки даних (ЦОД) для ІІ може досягти від 85 до 134 ТВт год на рік.

Щоб вирішити цю проблему, деякі компанії розглядають використання малих атомних реакторів, які можуть забезпечувати харчування ЦОД, що працюють з ІІ, завдяки їх стабільному та високоефективному виробленню енергії. Натомість інші розробники шукають нові підходи до оптимізації обчислень, щоб знизити енерговитрати.

BitEnergy AI: Новий підхід до економії енергії

Одним із перспективних рішень є пропозиція компанії BitEnergy AI, яка розробила новий алгоритм Linear-Complexity Multiplication (лінійно-складне множення). Він дозволяє значно скоротити енергоспоживання під час виконання обчислювальних операцій, замінюючи традиційні обчислення з плаваючою точкою на цілі операції. Це особливо важливо, оскільки операції з точкою, що плаває, є найбільш енергоємними при обробці даних штучного інтелекту.

• Linear-Complexity Multiplication передбачає використання методів апроксимації, які замінюють складні операції більш простими цілочисленними додаваннями. Такий підхід дозволяє економити до 95% енергії за тензорних множень і близько 80% — за скалярних творів.
• Тестування показало, що новий алгоритм здатний підтримувати необхідну точність, навіть перевершуючи поточні 8-бітові стандарти обчислень, і показувати кращі результати на популярних моделях, таких як Llama та Mistral.

Проблеми та перспективи впровадження

Основна складність полягає в тому, що впровадження нового алгоритму вимагатиме розробки спеціального апаратного забезпечення, оскільки існуючі чіпи, наприклад Nvidia, не підтримують цей підхід. Проте, за заявами компанії, вже існують плани створення спеціалізованого обладнання та програмних API, які зможуть використовувати переваги нового методу.

Ця нововведення може стати важливим кроком до зниження витрат на експлуатацію ІІ та зменшення вуглецевого сліду, що відповідає глобальній тенденції до сталого розвитку та екологічно чистим технологіям.

Примітно, що згідно звіту The Wall Street Journal, Apple відмовилася від планів інвестувати в OpenAI, що стало несподіваним поворотом напередодні завершення раунду фінансування OpenAI на суму 6,5 мільярда доларів. Серед потенційних інвесторів залишаються Microsoft та Nvidia, а Microsoft вже володіє 49% прибутку OpenAI та планує інвестувати ще 1 мільярд доларів.

Рішення Apple припинити переговори про фінансування стало несподіванкою з огляду на те, що раніше повідомлялося про можливу участь компанії в інвестиціях. Однак, як зазначають джерела, Apple рідко робить інвестиції у великі технологічні компанії Кремнієвої долини. “>< /a>Незважаючи на відмову від інвестицій, Apple і OpenAI продовжать співпрацю, що дозволить інтегрувати ChatGPT в iOS 18 наприкінці цього року. Це партнерство дозволить ChatGPT працювати разом з Siri для обробки запитів.

Цікаво, що жодна із сторін не вироблятиме фінансових виплат у рамках цього партнерства, що, на думку Apple, принесе їй цінність, порівнянну або перевищує грошові вкладення.