«Яндекс» обучил нейросеть в «Картах» проверять сгенерированные тексты на наличие галлюцинаций

Она работает на базе YandexGPT.

  • Раньше за краткие описания в «Картах» отвечали пять моделей, а теперь одна, что требует меньше вычислительных мощностей, сказали в «Яндексе». Речь об описаниях достопримечательностей и заведений в блоках «Коротко о месте» и «Потоке» в режиме «Идеи».
  • Нейросеть составляет описания на основе данных от владельца карточки организации и пользовательских отзывов, но иногда «галлюцинирует» — добавляет несуществующие детали. Чтобы повысить точность, её научили «оценивать написанное на правдивость — сравнивать свои ответы с отзывами, на которые она опиралась, и удалять "выдуманное"».
  • Помимо этого, в набор обучающих данных добавили «эталонные» примеры генераций предыдущих моделей. За счёт этого новая нейросеть реже использует в описаниях общие фразы, например, «вкусная еда» и «приятная атмосфера».
  • По словам компании, переход на обновлённую версию нейросети позволил повысить «правдивость и качество» кратких описаний на 90% и сократить количество неточностей в шесть раз.
«Яндекс» обучил нейросеть в «Картах» проверять сгенерированные тексты на наличие галлюцинаций
«Яндекс» обучил нейросеть в «Картах» проверять сгенерированные тексты на наличие галлюцинаций
  • «Яндекс» добавил в «Алису» нейросеть YandexGPT в мае 2023 года. Она также используется в «Маркете», «Лавке», «Практикуме» и других сервисах. В сентябре того же года компания выпустила новую версию нейросети — YandexGPT 2. В 2024 году представила YandexGPT 3 Pro и облегчённую версию YandexGPT Lite.
  • Yandex Cloud начала принимать заявки и тестировать YandexGPT для бизнеса в июне 2023 года. В декабре доступ открыли всем пользователям. Использование API тарифицируется — стоимость генерации текста зависит от выбранной модели и режима.
99
11
78 комментариев

Комментарий недоступен

11
Ответить

ответ прост никогда они таким заниматься не будут, так что можешь даже не спрашивать

Ответить

Жестко вы завернули)

Ответить
6
Ответить

Странный чел, ставить памятник штучке, которая может своим укусом убить не лучшая идея

1
Ответить

Наркоман штоле?

1
Ответить

Олега в бан за такое.

Ответить