OpenAI выпустила обновленные версии чат-ботов с искусственным интеллектом и снизила цены на API для разработчиков

OpenAI объявила о выпуске новых версий GPT-3.5-turbo и GPT-4. GPT-4 получает возможность вызова функций, что позволит разработчикам описать функции программирования для больших языковых моделей, а они в дальнейшем создадут код для их выполнения. Это поможет создать чатбот, которые будут отвечать на вопросы, вызывая внешние инструменты; будут преобразовывать естественный язык в запросы в базу данных и будут извлекать структурированные данные из текста.

GPT-3.5-Turbo получит расширенное контекстное окно. Модели с маленьким контекстным окном (измеряемым в токенах или необработанных битах текста) имеют тенденцию «забывать» содержание даже недавних разговоров. Обновление получает в 4 раза больше токенов (16 000) по сравнению с предыдущей версией GPT-3.5-turbo по вдвое более дорогой цене ($0,003 за 1000 входных токенов и $0,004 за 1000 выходных токенов).

По словам представителей OpenAI, модель может загружать около 20 страниц текста за раз (компания также тестирует версию GPT-4 с контекстным окном из 32 000 токенов, но в ограниченном доступе).

В то же время OpenAI снижает цены на предыдущие версии API своих LLM: оригинальная GPT-3.5-turbo удешевляется на 25%. То есть разработчики могут использовать модель за $0,0015 за 1000 входных токенов и $0,002 за 1000 выходных токенов равна примерно $1 за 700 страниц). А text-embedding-ada-002, теперь стоит $0,0001 за 1000 токенов, что на 75% ниже предыдущей цены.