Разработчики BitEnergy AI смогли снизить энергопотребление систем для вычислений ИИ на 95%

Рост энергопотребления, связанный с развитием искусственного интеллекта, становится одной из наиболее актуальных проблем в технологической отрасли. Потребность в вычислительных мощностях, необходимых для тренировки и эксплуатации моделей ИИ, стремительно увеличивается. Уже сегодня мощные языковые модели, такие как ChatGPT, ежедневно потребляют значительное количество энергии — порядка 564 МВт∙ч, что достаточно для питания около 18 тысяч американских домов. Прогнозы на ближайшие годы предполагают, что к 2027 году энергопотребление центров обработки данных (ЦОД) для ИИ может достичь от 85 до 134 ТВт∙ч в год.

Чтобы решить эту проблему, некоторые компании рассматривают использование малых атомных реакторов, которые могут обеспечивать питание ЦОД, работающих с ИИ, благодаря их стабильной и высокоэффективной выработке энергии. В то же время другие разработчики ищут новые подходы к оптимизации вычислений, чтобы снизить энергозатраты.

BitEnergy AI: Новый подход к экономии энергии

Одним из перспективных решений является предложение компании BitEnergy AI, которая разработала новый алгоритм Linear-Complexity Multiplication (линейно-сложное умножение). Он позволяет значительно сократить энергопотребление при выполнении вычислительных операций, заменяя традиционные вычисления с плавающей точкой на целочисленные операции. Это особенно важно, поскольку операции с плавающей точкой являются самыми энергоемкими при обработке данных искусственного интеллекта.

• Linear-Complexity Multiplication предполагает использование методов аппроксимации, которые заменяют сложные операции более простыми целочисленными сложениями. Такой подход позволяет экономить до 95% энергии при тензорных умножениях и около 80% — при скалярных произведениях.
• Тестирование показало, что новый алгоритм способен поддерживать необходимую точность, даже превосходя текущие 8-битные стандарты вычислений, и показывать лучшие результаты на популярных моделях, таких как Llama и Mistral.

Проблемы и перспективы внедрения

Основная сложность заключается в том, что внедрение нового алгоритма потребует разработки специального аппаратного обеспечения, поскольку существующие чипы, например от Nvidia, не поддерживают этот подход. Однако, по заявлениям компании, уже существуют планы по созданию специализированного оборудования и программных API, которые смогут использовать преимущества нового метода.

Это новшество может стать важным шагом к снижению затрат на эксплуатацию ИИ и уменьшению углеродного следа, что соответствует глобальной тенденции к устойчивому развитию и экологически чистым технологиям.

Примечательно что согласно отчету The Wall Street Journal, Apple отказалась от планов инвестировать в OpenAI, что стало неожиданным поворотом накануне завершения раунда финансирования OpenAI на сумму 6,5 миллиарда долларов. Среди потенциальных инвесторов остаются Microsoft и Nvidia, а Microsoft уже владеет 49% прибыли OpenAI и планирует инвестировать еще 1 миллиард долларов.

Решение Apple прекратить переговоры о финансировании стало неожиданностью, учитывая, что ранее сообщалось о возможном участии компании в инвестициях. Однако, как отмечают источники, Apple редко делает инвестиции в крупные технологические компании Кремниевой долины.Несмотря на отказ от инвестиций, Apple и OpenAI продолжат сотрудничество, что позволит интегрировать ChatGPT в iOS 18 в конце этого года. Это партнерство позволит ChatGPT работать вместе с Siri для обработки запросов.

Любопытно, что ни одна из сторон не будет производить финансовых выплат в рамках этого партнерства, что, по мнению Apple, принесет ей ценность, сравнимую или превосходящую денежные вложения.