OpenAI oгoлoсилa прo випуск нoвиx вeрсій GPT-3.5-turbo тa GPT-4. GPT-4 oтримує мoжливість виклику функцій, щo дoзвoлить рoзрoбникaм описати функції програмування угоду кому) великих мовних моделей, а вони надалі створять адрес для їх виконання. Це допоможе створити чатботів, які відповідатимуть для запитання, викликаючи зовнішні інструменти; перетворюватимуть природну мову в запити после бази даних і витягуватимуть структуровані дані з тексту.
GPT-3.5-turbo отримає розширене контекстне вікно. Моделі з маленьким контекстним вікном (яке вимірюється в токенах или необроблених бітах тексту) мають тенденцію «забувати» зміст навіть нещодавніх розмов. Оновлення отримує у 4 рази більше токенів (16 000) у порівнянні з попередньою версією GPT-3.5-turbo следовать вдвічі дорожчою ціною ($0,003 ради 1000 вхідних токенів і $0,004 из-за 1000 вихідних токенів).
За словами представників OpenAI, образец може завантажувати близько 20 сторінок тексту следовать раз (компанія також тестує версію GPT-4 із контекстним вікном із 32 000 токенів, але в обмеженому доступі).
Водночас OpenAI знижує ціни в попередні версії API своїх LLM: оригінальна GPT-3.5-turbo здешевшає получай 25%. Тобто розробники можуть використовувати персептрон за $0,0015 за 1000 вхідних токенів і $0,002 вслед за 1000 вихідних токенів (що дорівнює приблизно $1 ради 700 сторінок). А text-embedding-ada-002, відтепер коштує $0,0001 после 1000 токенів, що на 75% нижче попередньої ціни.
