«Сбер» выложил в открытый доступ версию нейросети GPT-3, способную создавать тексты на 61 языке Статьи редакции

И перенёс русскоязычную модель с GitHub на свою платформу SmartMarket.

  • Модель называется mGPT, она может генерировать тексты на 61 языке мира, включая языки народов России и стран СНГ, объявил «Сбер».
  • Она доступна в двух версиях: базовая, с 1,3 млрд параметров, опубликована в открытом доступе на «СберДиске», а расширенная, с 13 млрд параметров, скоро станет доступна на платформе машинного обучения ML Space от SberCloud.
  • В мае 2020 года OpenAI представила алгоритм GPT-3. Он работает с текстом: пишет стихи, прозу, новости и посты, придумывает шутки и литературные пародии, умеет отвечать на вопросы по прочитанному, переводить, решать примеры и программировать.
  • В октябре 2020 года «Сбер» выложил в открытый доступ русскоязычную версию GPT-3. Она была доступна на GitHub, но после блокировки аккаунта банк перенёс её на платформу SmartMarket.
0
66 комментариев
Написать комментарий...
Олег Комаров

Я читаю коменты к статье сейчас и мне кажется, что их все написал GPT-3…

Вы напишите плз, можно было сберу выкладывать модель или нет? Что мы потеряли и что приобрели? GPT-3 это не их модель, она в свободном доступе была или нет, и если была её надо ещё обучать лет 10 или это уже обученая?

Ответить
Развернуть ветку
Саша G

Здесь задайте вопрос

Ответить
Развернуть ветку
Олег Комаров

Типа смысл на VC задавать вопросы, он только для хиханек-хаханек?)

Ответить
Развернуть ветку
Саша G

А что вам автор статьи сможет ответить? ;)

Ответить
Развернуть ветку
Memento Vivere

Нет, просто там вам дадут более квалифицированный ответ. Это ведь больше про IT, а не про стартапы, хоть и связано.

GPT-3 не их модель, это модель американской компании OpenAI, которая распространяет доступ к этой модели платно. Сбер лишь повторил это по их научным публикациям и вместо английского обучил модель на русском языке (+ сейчас куча других языков добавлена). Т.е. по сути это наш аналог GPT-3, который работает с разными языками, включая русский. О качестве этого аналога ничего не могу сказать, не ковырялся в этом.

В целом на этой модели можно генерировать статьи, ответы на вопросы, наполнять форумы контентом на первых порах (решение плохое, но всё же), делать чат-ботов и т.д. Дальше уже на что хватит фантазии и бизнес-смекалки :)

если была её надо ещё обучать лет 10 или это уже обученая?

Бесплатная версия частично обучена и доступна хоть сейчас на СберДиске, там 1.3 млрд параметров. Более крутая версия с 13 млрд параметров доступна лишь в их облаке

Ответить
Развернуть ветку
63 комментария
Раскрывать всегда