Наконец-то представлена модель o1 от OpenAI - модель, которая много думает, прежде чем ответить. Возможности модели, как получить доступ, как пользоваться и как правильно писать промпты

После нескольких месяцев разговоров в социальных сетях и скрытия за кодовым названием «Project Strawberry», долгожданная новая языковая модель от OpenAI наконец-то появилась - она называется «o1».

Немного непривычно, что они не назвали ее GPT-5 или GPT-4.1. Почему же они выбрали o1?

По словам OpenAI, улучшения в этих новых моделях настолько значительны, что они посчитали необходимым сбросить счетчик до 1:

Основная задача этих моделей - думать и рассуждать над сложными задачами и решать более трудные проблемы. Поэтому не стоит ожидать от них молниеносной работы; вместо этого они дают более качественные и логичные ответы, чем предыдущие модели.

Еще больше полезностей - в телеграм-канале про нейросети и канале про генерацию изображений Миджорниум.

Модели семейства o1 представлены в двух вариантах: o1-mini и o1-preview.

OpenAI подчеркивает, что эти новые модели обучаются с помощью обучения с подкреплением, чтобы выполнять сложные рассуждения. Но что именно подразумевается под рассуждениями в контексте LLM?

Подобно тому, как люди размышляют, прежде чем ответить на сложный вопрос, o1 использует цепочку мыслей, пытаясь решить проблему.

Ключевой момент заключается в том, что рассуждения позволяют модели рассмотреть несколько подходов, прежде чем дать окончательный ответ.

Вот процесс:

Отбрасывание жетонов рассуждений позволяет сосредоточить внимание на важной информации.

Этот подход может быть медленным, но, по словам старшего исследователя NVIDIA Джима Фана (Jim Fan), мы наконец-то видим, как парадигма масштабирования по времени вывода становится популярной и применяется в производстве.

Джим приводит несколько отличных аргументов:

Чтобы проверить, насколько модели o1 превосходят GPT-4o, OpenAI провела ряд различных человеческих экзаменов и ML-экспертиз.

На графике выше видно, что o1 значительно превосходит GPT-4o в сложных тестах на логику, включающих вопросы по математике, программированию и науке.

Оценивая недавно выпущенные OpenAI модели o1, OpenAI обнаружила, что они превосходят людей в эталоне GPQA-diamond - сложном тесте на интеллект, который оценивает знания в области химии, физики и биологии.

Чтобы сравнить производительность модели с человеческими показателями, OpenAI сотрудничал с экспертами, имеющими докторскую степень, которые отвечали на те же вопросы GPQA-diamond.

Примечательно, что o1 превзошла этих экспертов-людей, став первой моделью, которой удалось это сделать в данном бенчмарке. Хотя это не означает, что o1 превосходит доктора философии по всем параметрам, но это говорит о том, что модель лучше решает определенные задачи, которые должен решать доктор философии.

Подробнее о техническом отчете о моделях o1 можно прочитать здесь.

Теперь, чтобы посмотреть, насколько хорошо работает o1 по сравнению с предыдущей моделью, GPT-4o, давайте рассмотрим классическую задачу: подсчет количества букв «r» в слове «strawberry».

Давайте попробуем еще один вариант. На этот раз мы попросим обе модели составить список стран, в названиях которых на английском языке буква «А» стоит на третьей позиции.

И снова o1 ответил правильно, несмотря на то, что на «обдумывание» ушло больше времени, чем у GPT-4o.

Даже Сэм Альтман признал, что o1 все еще несовершенна и ограничена. При первом использовании она может показаться более впечатляющей, чем после того, как вы поработаете с ней больше времени.

Иногда она все же допускает ошибки - даже в таких простых вопросах, как вопрос о том, сколько букв «r» в ответе.

Следует также отметить, что модели o1 - значительно продвинулись в рассуждениях, но не предназначены для замены GPT-4o во всех случаях использования.

Для приложений, в которых требуется ввод изображений, вызов функций или стабильно быстрое время отклика, по-прежнему правильным выбором будут модели GPT-4o и GPT-4o mini.

Для разработчиков здесь приведены некоторые параметры API завершения чата o1, которые пока недоступны:

Сегодня o1 появилась в ChatGPT для всех пользователей Plus и Team, а также в API для разработчиков пятого уровня.

Если вы являетесь бесплатным пользователем ChatGPT, OpenAI упомянул, что планирует предоставить доступ к o1-mini всем бесплатным пользователям ChatGPT, но конкретных сроков не назвал.

o1 также доступен в OpenAI Playground. Просто зайдите на https://platform.openai.com/ и на вкладке Playground выберите модель «o1-mini» или «o1-preview».

Также есть API-модели «o1-mini-2024-09-12» и «o1-preview-2024-09-12», которые уже доступны разработчикам.

Если вы привыкли к обычным промптам для таких моделей, как Claude 3.5 Sonnet, Gemini Pro или GPT-4o, то промпты для моделей o1 отличаются.

Модели o1 лучше всего работают с простыми промптами. Некоторые методы разработки промптов, например, указание модели «думать шаг за шагом», могут не улучшить производительность, а иногда и помешать ей.

Вот некоторые актуальные способы:

Итак, o1 впечатляет, когда речь заходит о решении проблем с помощью чата и создании контента. Но знаете, что меня больше всего радует? Его интеграция в такие помощники программиста, как Cursor AI.

Я уже видел людей, которые вводили свои API-ключи в Cursor и использовали o1 для написания кода за них. Я еще не пробовал, но мне не терпится попробовать.

Судя по моим первым тестам, способность o1 думать, планировать и выполнять зашкаливает. По сути, мы наблюдаем переломный момент ChatGPT для систем агентного кодирования. Последствия его новых возможностей огромны.

Я искренне верю, что волна совершенно новых продуктов, которые будут созданы с его помощью, не будет похожа ни на что, что мы когда-либо видели. Новые возможности в мире разработки программного обеспечения просто захватывают, и мне не терпится увидеть, как o1 изменит способ написания кода и создания приложений в ближайшие недели.

#chatgpt #chatgpto1

Источник статьи на английском - здесь