OpenAI випустила оновлені версії чат-ботів зі штучним інтелектом та знизила ціни на API для розробників

OpenAI оголосила про випуск нових версій GPT-3.5-turbo та GPT-4. GPT-4 отримує можливість виклику функцій, що дозволить розробникам описати функції програмування для великих мовних моделей, а вони надалі створять код для їх виконання. Це допоможе створити чатботів, які відповідатимуть на запитання, викликаючи зовнішні інструменти; перетворюватимуть природну мову в запити до бази даних і витягуватимуть структуровані дані з тексту.

GPT-3.5-turbo отримає розширене контекстне вікно. Моделі з маленьким контекстним вікном (яке вимірюється в токенах або необроблених бітах тексту) мають тенденцію «забувати» зміст навіть нещодавніх розмов. Оновлення отримує у 4 рази більше токенів (16 000) у порівнянні з попередньою версією GPT-3.5-turbo за вдвічі дорожчою ціною ($0,003 за 1000 вхідних токенів і $0,004 за 1000 вихідних токенів).

За словами представників OpenAI, модель може завантажувати близько 20 сторінок тексту за раз (компанія також тестує версію GPT-4 із контекстним вікном із 32 000 токенів, але в обмеженому доступі).

Водночас OpenAI знижує ціни на попередні версії API своїх LLM: оригінальна GPT-3.5-turbo здешевшає на 25%. Тобто розробники можуть використовувати модель за $0,0015 за 1000 вхідних токенів і $0,002 за 1000 вихідних токенів (що дорівнює приблизно $1 за 700 сторінок). А text-embedding-ada-002,  відтепер коштує $0,0001 за 1000 токенів, що на 75% нижче попередньої ціни.