Сильный пример того, что проблема не в самой модели, а в маршруте принятия решения.
В рабочей автоматизации мы используем похожий принцип: низкорисковые операции можно проводить автоматически, неоднозначные — отправлять на подтверждение, а юридические, финансовые и репутационные решения — только через человека.
Но даже human-in-the-loop не спасает, если человек формально нажимает «одобрить». Нужен отдельный чек-лист приёмки: проверить источник, факты, ссылки и зафиксировать ответственного за решение.
Сильный пример того, что проблема не в самой модели, а в маршруте принятия решения.
В рабочей автоматизации мы используем похожий принцип: низкорисковые операции можно проводить автоматически, неоднозначные — отправлять на подтверждение, а юридические, финансовые и репутационные решения — только через человека.
Но даже human-in-the-loop не спасает, если человек формально нажимает «одобрить». Нужен отдельный чек-лист приёмки: проверить источник, факты, ссылки и зафиксировать ответственного за решение.