Что это такое GPT-4 Turbo?
GPT-4 Turbo — наша модель последнего поколения. Он более функционален, имеет обновленный уровень знаний по состоянию на апрель 2023 года и представляет контекстное окно размером 128 КБ (эквивалент 300 страниц текста в одном приглашении). Модель также в 3 раза дешевле для входных токенов и в 2 раза дешевле для выходных токенов по сравнению с исходной моделью GPT-4. Максимальное количество выходных токенов для этой модели — 4096.
Как я могу получить к нему доступ?
Доступ имеет любой, у кого есть учетная запись OpenAI API. Доступ к модели можно получить, передав gpt-4-1106-previewее имя в API.
Каковы ограничения по ставкам? Могу ли я получить повышение?
Ограничения скорости на GPT-4 Turbo — 20 запросов в минуту (100 запросов в день). Поскольку эта модель является предварительной, в настоящее время мы не будем учитывать увеличение лимита скорости для GPT-4 Turbo. Мы планируем выпустить стабильную, готовую к производству модель в ближайшие недели.
OpenAI объявила о новых улучшениях своих больших языковых моделей GPT-4 и GPT-3.5, включая обновленные базы знаний и гораздо более длинное контекстное окно. Компания заявляет, что также последует примеру Google и Microsoft и начнет защищать клиентов от исков об авторских правах.
GPT-4 Turbo, доступный в настоящее время через предварительную версию API, прошел обучение с использованием информации, датированной апрелем 2023 года, сообщила компания в понедельник на своей первой в истории конференции разработчиков . Более ранняя версия GPT-4, выпущенная в марте, основана только на данных, датированных сентябрь 2021 года. OpenAI планирует выпустить готовую к производству модель Turbo в ближайшие несколько недель, но не назвал точную дату.
OpenAI усовершенствует GPT-4 и удешевит его
GPT-4 Turbo также «увидит» больше данных с контекстным окном размером 128 КБ, что, по словам OpenAI, «эквивалентно более чем 300 страницам текста в одном приглашении». Как правило, большие контекстные окна позволяют большим языковым моделям, таким как GPT, лучше понимать вопрос и предлагать более продуманные ответы. Ранее OpenAI выпустила две версии GPT-4: одну с контекстным окном всего 8 КБ, а другую — 32 КБ.
OpenAI утверждает, что GPT-4 Turbo обходится разработчикам дешевле. Ввод будет стоить всего 0,01 доллара за 1000 токенов — базовую единицу текста или кода для чтения LLM — по сравнению с 0,03 доллара за GPT-4. Каждый выход составит 0,03 доллара США за 1000 токенов. В целом, по данным OpenAI, новая версия GPT-4 в три раза дешевле предыдущих.
Эта новейшая версия GPT-4 по-прежнему будет принимать запросы изображений, запросы преобразования текста в речь и интегрировать DALL-E 3 — функцию, впервые анонсированную в октябре .
Компания заявляет, что улучшения GPT-4 Turbo означают, что пользователи могут попросить модель выполнить более сложные задачи в одном запросе. Люди могут даже указать GPT-4 Turbo специально использовать язык кодирования по своему выбору для получения результатов, например код в XML или JSON.
