Openai выпустила GPT-4 Turbo с более дешевым API и контекстным окном на 128 тысяч токенов
Всего через восемь месяцев после запуска GPT-4 компания OpenAI представила обновленную модель GPT-4 Turbo с контекстным окном, в которое можно поместить 300-страничную книгу, и более дешевым доступом к API.
Что нового в GPT-4 Turbo?
Вот основные особенности GPT-4 Turbo:
- Контекстное окно объемом 128000 токенов (в 16 раз больше, чем у GPT-4)
- Цена входных токенов в 3 раза дешевле, а цена выходных токенов в 2 раза дешевле по сравнению с GPT-4
- Обладает знаниями о мире вплоть до апреля 2023 года (у GPT-4 знания обрываются до сентября 2023 года)
Как получить доступ
GPT-4 Turbo теперь является моделью по умолчанию, используемой в ChatGPT для пользователей с платной подпиской. Если у вас есть учетная запись OpenAI с существующим доступом к GPT-4, вы также можете получить доступ к новой модели, переключившись на модель gpt-4-11-6-preview.
GPT-4 Turbo доступен для всех разработчиков, которые могут попробовать его, передав в API запрос gpt-4-1106-preview. Вот пример запроса на javascript:
Вот пример на языке Python:
Цены на API
Как разработчик, я больше всего рад снижению цен. OpenAI снизил ее до 3 раз для входных токенов и до 2 раз для выходных. Это делает новую модель гораздо более доступной для небольших разработчиков и стартапов.
Предыдущая цена:
Если вам интересно, что означает лексема, то это фрагменты слов, используемые для обработки естественного языка. Для английского текста 1 токен равен примерно 4 символам, или 0,75 слова.
Кроме того, доступ к API ChatGPT оплачивается отдельно от подписки ChatGPT Plus. Отслеживать расходование можно на странице вашего аккаунта OpenAI.
Автоматическое переключение инструментов
В последней версии пользовательского интерфейса ChatGPT можно заметить, что выпадающий список для выбора инструментов, которые вы хотите использовать, уже исчез. На его месте появилось всего три варианта: GPT-4, GPT-3.5 и Plugins.
Теперь GPT-4 Turbo автоматически подбирает нужные инструменты.
Например, если попросить ИИ сгенерировать изображение, то теперь он достаточно умен, чтобы для этого Dall-E 3.
В целом я рад тому, как быстро OpenAI внедряет инновации в свои языковые модели. Они, несомненно, интересны и открывают широкие возможности для инновационных приложений на базе GPT.
Однако интересно поразмыслить над стратегическим подходом OpenAI. Первоначально OpenAI выпустила свой API, предоставив разработчикам возможность создавать и внедрять инновации, по сути, взяв на себя риски раннего внедрения и вовлечения пользователей. Этот шаг оказался разумной тактикой OpenAI, поскольку он не только способствовал развитию разнообразной экосистемы приложений, но и позволил получить представление о наиболее востребованных функциях.
Теперь OpenAI, похоже, выборочно интегрирует эти популярные функции непосредственно в свою платформу, фактически отбирая лучшие продукты и сервисы, разработанные сообществом.
OpenAI вытесняет небольшие стартапы и разработчиков.
Поэтому им ничего не остается, как придумывать новые идеи приложений, вместо того чтобы конкурировать с крупными компаниями.
насколько реалистично натравить его на github и попросить внести определенные изменения в проект?
Тебе всё равно придётся всё проверять лично
Есть же GitHub copilot в чат режиме
Нереалистично вообще.
Написал автору статьи Jim Clyde Monge (редактору Generative AI), чтобы он порадовался, что у его публикации теперь есть русский перевод. :)
Комментарий удален автором поста
Комментарий удален автором поста
Комментарий удален автором поста
Комментарий удален автором поста
пора его брать))
Думаю, да, дешевле уже навряд ли станет ).
Отличная новость! Радует, что OpenAI продолжает развиваться и совершенствовать свою технологию. Выпуск GPT-4 turbo с более доступным API будет полезным для широкого круга разработчиков и компаний
Каковы новые возможности и применения GPT-4?
То, что они называют "GPTs", очень удобное. Это боты с заранее заданным поведением, с которыми можно начинать диалог одним кликом мыши. Создаются очень просто и удобно через веб-интерфейс. Этот же функционал доступен и для разработчиков. Плюс, это значительно упрощает для разработчиков учёт переписки пользователя с ботом.
Возможности и применение - для каждого свои - кто-то ботов или сервисы делает, кто-то тексты генерирует и т.д.
На сколько работает ваша фантазия и запросы, на столько и можете использовать нейросеть
Подскажите, пожалуйста.
Я правильно понимаю, что сама по себе подписка Plus за 20 долларов ничего, кроме возможности доступа к другим языковым моделям не дает?
То есть, чтобы все это нормально использовать нужно будет заплатить 20 (миниум за плюс и далее уже за каждый запрос и ответ. Верно?
Нет, это цены для апи, для разработчиков считай, там нет минимальной платы.
Для конечных пользователей есть подписка, за 20, и ее хватает, доплачивать вроде ничего не надо.
Вы еще не написали, что можно тренировать собственных специализированных чатботов и выкладывать их в магазин. Судя по всему появиться новая модная профессия однодневка и курсы по ней.
Да, вы правильно дополнили.
Он диалог голосом уже может вести ?
Только на телефоне пока. И запросы голосом принимает, и отвечает голосом.
Комментарий удален автором поста
Комментарий удален автором поста
.