📌 "Доверенная модель ИИ" - это не модель, которой можно слепо доверять
На Федеральном портале проектов нормативных правовых актов размещен проект федерального закона «Об основах государственного регулирования сфер применения технологий искусственного интеллекта в Российской Федерации». В нем, в частности, обсуждается статус «доверенных моделей» через специальный реестр, а также возможность устанавливать случаи обязательного применения суверенных и национальных моделей ИИ. Для финтеха это особенно чувствительная тема: ИИ уже используется в скоринге, антифроде, клиентской поддержке, персонализации продуктов, комплаенсе, модерации операций и оценке рисков.
🤖 Что такое «доверенная модель»?
Это не модель, выводам которой можно верить автоматически. Это модель, которая прошла определенную процедуру допуска, соответствует установленным требованиям и включена в реестр. То есть речь идет о публично-правовом статусе, а не о гарантии безошибочности.
⚠ Почему ей нельзя доверять «слепо»?
Даже «доверенная» модель может ошибаться. Причина может быть в данных, настройках, промпте, интеграции, обновлении модели или в том, как человек использовал результат. Поэтому вовлеченность человека отменять нельзя - особенно в финансовых сервисах, где решение ИИ может повлиять на доступ к продукту, кредитный лимит, отказ в операции, блокировку, тариф или оценку клиента.
🧑⚖ Кто отвечает за ошибку ИИ?
Разработчики ИИ обычно включают в договоры дисклеймеры: модель предоставляется «как есть», результат носит рекомендательный характер, а пользователь сам решает, использовать его или нет. Но такой дисклеймер не освобождает всех от ответственности автоматически.Если банк, финтех-сервис или платформа встроили ИИ в свой процесс, они не смогут просто сказать клиенту: «Это ошибка модели, мы не отвечаем». Для клиента решение принимает не ИИ, а организация, которая выбрала инструмент, настроила процесс и использует результат модели.
🏦 Что это значит для финтеха?
Нужно проверять не только наличие модели в реестре, но и то, как она используется: какие данные обрабатывает, где они хранятся, кто имеет доступ к результатам, как проверяются ошибки, есть ли человеческий пересмотр, ведется ли логирование, есть ли механизм обжалования и как распределена ответственность с поставщиком.
❗Вывод
Статус «доверенной модели» не отменяет необходимости профессионального контроля. Для финтеха важно не просто выбрать модель из реестра, а понимать, как именно она встроена в финансовый процесс: кто проверяет ее выводы, кто принимает итоговое решение, как клиент может оспорить результат и кто отвечает, если модель ошиблась. Иными словами, доверие к ИИ должно быть не слепым, а управляемым.
~~~