Опасные фантазии. Что такое «галлюцинации ИИ» и как их обнаружить?
Думали, галлюцинации бывают только у людей? Нет, роботы тоже ими страдают, точнее, пользователи страдают от выдумок ИИ.
Думали, галлюцинации бывают только у людей? Нет, роботы тоже ими страдают, точнее, пользователи страдают от выдумок ИИ.
"Искусственный интеллект может испытывать галлюцинации — так называют явление, когда модель выдаёт неверные результаты и настаивает на своей правоте."-это разве галлюцинация , это скорее ошибка
В случае с искусственным интеллектом термин «галлюцинации» описывает явление, когда модель выдает неверные результаты и уверена в своей правоте. Если обратить на это внимание нейросети - она продолжит доказывать свою точку зрения. Примеры такого явления мы как раз приводим в публикации.