Почему нейросеть отвечает по-разному даже с Temperature 0
Уменьшение параметра temperature делает ответы языковой модели менее случайными, но не гарантирует одинаковый результат при каждом запуске. Предсказуемость корпоративного ИИ создаётся не одной настройкой, а правилами, проверками, источниками данных и ограничениями вокруг модели.
Кажется, что проблема решается просто. Если нейросеть отвечает по-разному, нужно установить temperature 0. После этого модель якобы всегда будет выбирать один вариант и выдавать одинаковый результат.
На практике даже с такой настройкой ответы могут отличаться.
Почему результат меняется
На работу системы влияет не только temperature:
- версия модели;
- порядок переданного контекста;
- история диалога;
- найденные документы;
- обновление системного промта;
- работа внешних инструментов;
- ограничения инфраструктуры;
- изменения на стороне поставщика модели.
Даже одинаковые по смыслу запросы могут содержать разные формулировки и контекст.
Поэтому полностью детерминированной языковая модель не становится. Она по-прежнему генерирует наиболее вероятный ответ, а не выполняет жёстко заданный алгоритм.
Предсказуемой должна быть вся система
В корпоративном процессе важно ограничивать не каждое слово модели, а возможные последствия её работы.
Для этого используются несколько уровней контроля.
Правила вне промта
Расчёты, лимиты, права доступа и обязательные условия лучше проверять обычным программным кодом.
Нейросеть может предложить действие. Решение о том, разрешено ли его выполнить, принимает детерминированная часть системы.
Проверенные источники
Модель должна отвечать на основе корпоративных документов, справочников и актуальных данных, а не только собственных знаний.
При этом источник ответа полезно сохранять вместе с результатом.
Заданный формат
Вместо свободного текста система может требовать конкретную структуру:
- категория;
- сумма;
- срок;
- найденный источник;
- уровень уверенности;
- рекомендуемое действие.
Такой результат проще проверить и передать в следующую систему.
Автоматические проверки
Перед использованием ответа можно убедиться, что обязательные поля заполнены, сумма находится в допустимом диапазоне, а выбранное значение существует в справочнике.
Передача человеку
Если данных недостаточно или случай относится к критическим, система должна отказаться от автоматического решения и привлечь специалиста.
Такой управляемый контур и подразумевается под детерминированным ИИ в корпоративной системе: модель остаётся вероятностной, но её действия становятся ограниченными и проверяемыми. Если что, то статья об этом есть у меня в блоге Daturum.
Temperature 0 полезен, но сам по себе он не превращает нейросеть в бухгалтерскую формулу. К сожалению, ползунок пока не заменяет архитектуру.