{"id":14291,"url":"\/distributions\/14291\/click?bit=1&hash=257d5375fbb462be671b713a7a4184bd5d4f9c6ce46e0d204104db0e88eadadd","hash":"257d5375fbb462be671b713a7a4184bd5d4f9c6ce46e0d204104db0e88eadadd","title":"\u0420\u0435\u043a\u043b\u0430\u043c\u0430 \u043d\u0430 Ozon \u0434\u043b\u044f \u0442\u0435\u0445, \u043a\u0442\u043e \u043d\u0438\u0447\u0435\u0433\u043e \u0442\u0430\u043c \u043d\u0435 \u043f\u0440\u043e\u0434\u0430\u0451\u0442","buttonText":"","imageUuid":""}

Openai выпустила GPT-4 Turbo с более дешевым API и контекстным окном на 128 тысяч токенов

Всего через восемь месяцев после запуска GPT-4 компания OpenAI представила обновленную модель GPT-4 Turbo с контекстным окном, в которое можно поместить 300-страничную книгу, и более дешевым доступом к API.

Еще больше полезностей про нейросети - в моем хобби-блоге про нейросети в Телеграм.

Что нового в GPT-4 Turbo?

Вот основные особенности GPT-4 Turbo:

  • Контекстное окно объемом 128000 токенов (в 16 раз больше, чем у GPT-4)
  • Цена входных токенов в 3 раза дешевле, а цена выходных токенов в 2 раза дешевле по сравнению с GPT-4
  • Обладает знаниями о мире вплоть до апреля 2023 года (у GPT-4 знания обрываются до сентября 2023 года)

Как получить доступ

GPT-4 Turbo теперь является моделью по умолчанию, используемой в ChatGPT для пользователей с платной подпиской. Если у вас есть учетная запись OpenAI с существующим доступом к GPT-4, вы также можете получить доступ к новой модели, переключившись на модель gpt-4-11-6-preview.

GPT-4 Turbo доступен для всех разработчиков, которые могут попробовать его, передав в API запрос gpt-4-1106-preview. Вот пример запроса на javascript:

import OpenAI from "openai"; const openai = new OpenAI(); async function main() { const completion = await openai.chat.completions.create({ messages: [{ role: "system", content: "You are a helpful assistant." }], model: "gpt-4-1106-preview", }); console.log(completion.choices[0]); } main();

Вот пример на языке Python:

from openai import OpenAI client = OpenAI() completion = client.chat.completions.create( model="gpt-4-1106-preview", messages=[ {"role": "system", "content": "You are a helpful assistant."}, {"role": "user", "content": "Hello!"} ] ) print(completion.choices[0].message)

Цены на API

Как разработчик, я больше всего рад снижению цен. OpenAI снизил ее до 3 раз для входных токенов и до 2 раз для выходных. Это делает новую модель гораздо более доступной для небольших разработчиков и стартапов.

Предыдущая цена:

Если вам интересно, что означает лексема, то это фрагменты слов, используемые для обработки естественного языка. Для английского текста 1 токен равен примерно 4 символам, или 0,75 слова.

Кроме того, доступ к API ChatGPT оплачивается отдельно от подписки ChatGPT Plus. Отслеживать расходование можно на странице вашего аккаунта OpenAI.

Автоматическое переключение инструментов

В последней версии пользовательского интерфейса ChatGPT можно заметить, что выпадающий список для выбора инструментов, которые вы хотите использовать, уже исчез. На его месте появилось всего три варианта: GPT-4, GPT-3.5 и Plugins.

Теперь GPT-4 Turbo автоматически подбирает нужные инструменты.

Например, если попросить ИИ сгенерировать изображение, то теперь он достаточно умен, чтобы для этого Dall-E 3.

В целом я рад тому, как быстро OpenAI внедряет инновации в свои языковые модели. Они, несомненно, интересны и открывают широкие возможности для инновационных приложений на базе GPT.

Однако интересно поразмыслить над стратегическим подходом OpenAI. Первоначально OpenAI выпустила свой API, предоставив разработчикам возможность создавать и внедрять инновации, по сути, взяв на себя риски раннего внедрения и вовлечения пользователей. Этот шаг оказался разумной тактикой OpenAI, поскольку он не только способствовал развитию разнообразной экосистемы приложений, но и позволил получить представление о наиболее востребованных функциях.

Теперь OpenAI, похоже, выборочно интегрирует эти популярные функции непосредственно в свою платформу, фактически отбирая лучшие продукты и сервисы, разработанные сообществом.

OpenAI вытесняет небольшие стартапы и разработчиков.

Поэтому им ничего не остается, как придумывать новые идеи приложений, вместо того чтобы конкурировать с крупными компаниями.

Еще больше полезностей про нейросети - в моем хобби-блоге про нейросети в Телеграм.

0
53 комментария
Написать комментарий...
Alex Melnikoff

насколько реалистично натравить его на github и попросить внести определенные изменения в проект?

Ответить
Развернуть ветку
Manga TV

Есть же GitHub copilot в чат режиме

Ответить
Развернуть ветку
Василий Петров

Для IDE от JetBrains пока только в закрытом тестировании. У них, правда, свой AI Assistant есть, что из них лучше работает — не знаю.

Ответить
Развернуть ветку
Коммунист

В закрытом тестировании? Я пользуюсь копайлотом в ide от jetbrains с ~марта 2023, и он уже тогда был доступен всем, 10 или 20 баксов в месяц

Ответить
Развернуть ветку
Василий Петров

Само автодополнение давно доступно, да. Чат с ним внутри JetBrains IDEs в закрытом тестировании сейчас.

Ответить
Развернуть ветку
50 комментариев
Раскрывать всегда