OpenAI представила GPT-4o Mini - дешевую и быструю маленькую языковую модель: характеристики модели и как попробовать

Компания OpenAI представила новое пополнение в линейке ИИ-моделей: GPT-4o mini. Это более доступная и интеллектуальная модель небольшого размера, которая работает так же быстро, как GPT-3.5 Turbo.

🔥Телеграм-бот SYNTX предоставляет доступ к более чем 40 ИИ-инструментам. Без ВПН, оплата любой картой, запросы на любом языке, пробуйте бесплатно! Под капотом - GPT4o/Gemini/Claude, MidJourney, DALL-E 3 и Ideogram, LUNA, Suno, Редактор с 12 различными ИИ-инструментами для ретуши фото.

☝️Это только часть функций, доступных в SYNTX!

Как и GPT-4o, GPT-4o mini имеет контекстное окно объемом 128 000 токенов и дату актуальности знаний - октябрь 2023 года.

Еще больше полезностей - в телеграм-канале про нейросети и канале про генерацию изображений Миджорниум.

GPT-4o mini разработана для того, чтобы быть более экономичной и доступной, чем ее более крупные собратья.

Вот некоторые подробности о новой модели:

Интеллект: GPT-4o Mini превосходит GPT-3.5 Turbo в текстовом интеллекте, набрав 82% по сравнению с 69,8% в MMLU, и превосходит в мультимодальных рассуждениях.
Цена: GPT-4o Mini более чем на 60 % дешевле GPT-3.5 Turbo: 15 центов за 1 миллион входящих токенов и 60 центов за 1 миллион выходных токенов, что примерно соответствует 2 500 страницам стандартной книги.
Модальности: GPT-4o Mini в настоящее время поддерживает работу с текстом и зрением. В будущем OpenAI планирует добавить поддержку ввода и вывода аудио и видео.
Языки: GPT-4o Mini обладает улучшенным многоязычным пониманием по сравнению с GPT-3.5 Turbo, демонстрируя лучшие результаты в широком спектре языков, не относящихся к английскому.

Интересный факт: стоимость одного токена GPT-4o mini снизилась на 99 % по сравнению с text-davinci-003, менее производительной моделью, представленной в 2022 году.

GPT-4o Mini - это небольшая модель, превосходящая GPT-3.5 Turbo и другие небольшие модели в различных академических бенчмарках, в области текстового интеллекта и мультимодальных рассуждений.

Она поддерживает тот же набор языков, что и GPT-4o, и демонстрирует высокую производительность в вызовах функций и задачах с длинным контекстом.

Ключевые оценки GPT-4o Mini включают в себя:

Задачи на рассуждение: Набрала 82,0% баллов по MMLU, по сравнению с 77,9% по Gemini Flash и 73,8% по Claude Haiku.
Математика и программирование: Результат - 87,0% в MGSM (математические рассуждения) и 87,2% в HumanEval ( программирование), что превосходит показатели Gemini Flash и Claude Haiku.
Мультимодальные рассуждения: Набрал 59,4 % баллов в MMMU, превзойдя Gemini Flash и Claude Haiku.

Компания OpenAI сделала GPT-4o mini очень доступной:

15 центов за миллион входных токенов
60 центов за миллион выходных токенов

Вот более подробная информация о ценах на каждый вариант модели.

Если вы разработчик или стартап, использующий небольшие языковые модели для работы своих приложений, то вам стоит перейти на GPT-4o mini уже сейчас, чтобы сократить расходы на API.

У GPT-3.5 с контекстным окном объемом всего 16 Кбайт стоимость значительно выше.

GPT-4o mini также поддерживает генерацию изображений. Если вас интересует стоимость изображения, ознакомьтесь с калькулятором здесь. Изображение размером 1080 x 1080 пикселей будет стоить 0,003825 доллара.

Я еще не пробовал использовать модальность зрения через API. По словам OpenAI, поддержка ввода и вывода изображений, видео и аудио «появится в будущем».

Начиная с сегодняшнего дня, пользователи ChatGPT Free, Plus и Team могут получить доступ к GPT-4o Mini вместо GPT-3.5. Корпоративные пользователи получат доступ на следующей неделе, что соответствует миссии OpenAI - сделать преимущества ИИ доступными для всех.

BrainAidbot — бот, который работает в Телеграм без необходимости использования ВПН. С его помощью вы сможете легко и удобно пользоваться мощными инструментами, такими как DALLE-3, Midjourney и ChatGPT 4o Mini. И, что самое приятное, ChatGPT 4o Mini доступен абсолютно бесплатно для всех пользователей!

Если вам интересно сравнить ее с другими моделями, GPT-4o mini теперь доступна на сайте https://arena.lmsys.org/.

LMSYS также собрал голоса пользователей и оказался на одном уровне с GPT-4-turbo, при этом стоил дешевле.

Набрав более 6 тысяч голосов пользователей, мы с радостью делимся своими первыми результатами, достигнув производительности GPT-4-Turbo, при этом предлагая значительное снижение стоимости (15/60 центов за миллион входных/выходных токенов).

Для разработчиков GPT-4o mini теперь поддерживается в расширении Code Assistant в VS Code.

Microsoft также объявила, что GPT-4o mini теперь поддерживается в Microsoft Azure AI.

Мне очень нравится цена, многомодальность и время отклика, которое я вижу в бенчмарках. Это звучит как большой скачок по сравнению с GPT-3.5 Turbo. Больше контекста, больше возможностей при гораздо более низкой цене.

Мне не терпится самому провести оценить модель, стоит ли переводить свои продукты с GPT-3.5 Turbo на GPT-4o mini.

Однако стоит отметить, что хотя API может быть дешевым, он не сравнится с открытым исходным кодом таких моделей, как Llama 3. Модели с открытым исходным кодом позволяют пользователям настраивать их на основе собственных данных и запускать на собственном оборудовании, что может быть большим преимуществом для некоторых пользователей.

🔥Телеграм-бот SYNTX предоставляет доступ к более чем 40 ИИ-инструментам. Без ВПН, оплата любой картой, запросы на любом языке, пробуйте бесплатно! Под капотом - GPT4o/Gemini/Claude, MidJourney, DALL-E 3 и Ideogram, LUNA, Suno, Редактор с 12 различными ИИ-инструментами для ретуши фото.

☝️Это только часть функций, доступных в SYNTX!