Правила приличия для ИИ: зачем «умным» моделям кодекс этики
И как Альфа-Банк организует нетоксичную работу с искусственным интеллектом.
В декабре 2025 года Банк России опубликовал Кодекс этики в сфере разработки и применения искусственного интеллекта на финансовом рынке — к нему присоединились крупнейшие банки страны, в том числе Альфа-Банк. Документ ЦБ разрабатывал вместе с финансовым сообществом и Альянсом в сфере ИИ. Именно поэтому в кодексе отражены реальные подходы к работе с алгоритмами, которые банки уже успешно использовали ранее.
Но зачем этот кодекс нужен, если его соблюдение добровольное? Откуда вообще взялись эти принципы? И действительно ли алгоритмы настолько «поумнели», что им нужны нравственные ориентиры? Разбираемся.
Как появился кодекс и что внутри
За финансовый рынок страны отвечает Банк России (ЦБ). Технологии ИИ, которые используют финтех-компании, тоже в зоне его ответственности. В этой сфере ЦБ придерживается стратегии мягкого регулирования: не через обязательные для исполнения акты, а на основе обмена мнениями и опытом с бизнесом. Одним из воплощений этого подхода стал Кодекс этики в сфере разработки и применения искусственного интеллекта на финансовом рынке. Он создан, чтобы повысить доверие людей к «умным» технологиям и сделать их удобнее и безопаснее.
«Если прочитать документ, становится понятно, что это не “свод этических заповедей для разработчиков”, а скорее руководство по комфортному и прозрачному взаимодействию банков с клиентом. ЦБ смотрел на ИИ глазами не айтишника или юриста, а обычного человека, который пользуется приложением банка, звонит в колл-центр, подаёт заявку на кредит».
В основе кодекса — пять принципов:
1. Человекоцентричность. С помощью ИИ банки стремятся повышать качество и безопасность услуг для клиентов. Например, делать сервисы доступнее и совершенствовать системы защиты от мошенничества.
2. Справедливость. Нельзя использовать данные клиента без согласия и дискриминировать его по любым признакам. Например, отказывать в услугах на основе расы или убеждений.
3. Прозрачность. Банки раскрывают информацию о применении ИИ. Например, чат-бот не может притворяться реальным человеком, а у клиента должна быть возможность переключиться на реального сотрудника.
4. Безопасность, надежность и эффективность. Банки мониторят качество работы ИИ, чтобы выявлять отклонения и предотвращать критические сбои. Кроме того, в компании должны работать реальные специалисты, которые оперативно возьмут на себя ключевые функции ИИ в случае таких сбоев.
5. Ответственное управление рисками. Внедряя ИИ, компании должны свести возможные угрозы к минимуму. Например, вести реестр моделей, присваивать им уровень риска, фиксировать все риск-события и снижать вероятность их повторения.
Как всё работает
Кодекс — рекомендательный, соблюдать его положения необязательно. Тем не менее, этими принципами руководствуются многие лидеры финтеха: документ стал не дополнительным ограничителем в развитии ИИ, а обобщил те правила, которые компании уже используют.
«Мы охотно присоединились к документу: почти всё, что сформулировано в кодексе, у нас уже устойчиво работает. Принципы собирались не “из головы”, а на основе общей практики лидеров рынка, включая Альфа-Банк».
Возьмём для примера обслуживание клиентов в контакт-центре. Один из принципов кодекса гласит: использование ИИ не должно ухудшать пользовательский опыт и приводить к дискриминации. В Альфа-Банке за это отвечает целый комплекс процедур: например, в компании отслеживают, насколько каждый клиент доволен общением с чат-ботом, разбирают каждый случай недовольства и проводят собственную оценку работы ИИ. Если видят, что в каких-то ситуациях алгоритмы не справляются — отключают их и подключают к диалогу реальных операторов. А обратная связь клиентов помогает совершенствовать ботов и другие ИИ-решения.
Эту практику Альфа-Банк развивает с 2018 года, когда в приоритет поддержки поставили две метрики — удовлетворенность клиента (Voice of Customer, VOC) и процент автоматизации. Стартовали с очень низких показателей: VOC в районе двух баллов, автоматизация — не выше 15-20%. Технологии усиливали постепенно: сначала улучшали каждое решение так, чтобы оно нравилось клиентам, а затем подключали ИИ к новым категориям обращений. Подход принёс результаты — сегодня порядка 60% обращений обрабатывают боты, а клиенты оценивают общение с ними на 4,5+ баллов из 5. Интересно, что внутренние эксперты банка, как правило, ставят ботам более низкие оценки, чем сами пользователи.
С другими процессами — похожая история. В кодексе есть положение о контроле качества и достоверности работы ИИ. В Альфа-Банке управлению модельным риском исторически уделяют повышенное внимание, и процессы управления им отлажены задолго до публикации документа. Есть единый реестр, в котором описаны все модели (их в банке несколько тысяч), классификация по уровню влияния на бизнес-процессы, мониторинг отклонений в реальном времени, ежемесячный анализ работы каждого ИИ-решения, А/Б тестирование разных версий и много других приемов и практик.
Вопрос не только в этике: всё это необходимо, чтобы нейросети и другие модели не деградировали и работали так, как задумывалось при их разработке, а также своевременно учитывали изменения в экономике. То есть работали стабильно, с предсказуемым качеством и результатом.
ИИ-маркировка: всегда ли она нужна?
Когда речь заходит о маркировке результата работы «умных» технологий, многие путают две большие ветви — классический ИИ и генеративные решения, которые рисуют котиков, пишут тексты, музыку и говорят голосом знаменитостей.
Кодекс эти ветви чётко разделяет. Например, важно маркировать сгенерированные картинки, чтобы человек понимал: это создал не художник, а машина.
В то же время в реальных бизнес-процессах банки в основном используют “классический” ИИ. Скажем, в оформлении кредитов такие модели обрабатывают заявки и принимают решения. Алгоритмы здесь — только часть процесса, который к тому же проходят фоново и без генерации контента. В этом случае маркировка не обязательна.
«Например, в чат-ботах мы прямо даём понять клиенту, что он взаимодействует с ИИ, — это понятный кейс общения с генеративным решением. Но если бы правила маркировки были едиными для любого применения алгоритмов, было бы неясно, как обозначать такие многосоставные процессы с использованием классического ИИ, как принятие решения по кредиту».
Почему кодекс — не закон, и это хорошо
Обобщать сложившиеся нормы в кодексах — полезная практика: они помогают видеть, в каком направлении движется рынок, и соответствовать тенденциям. Документ ЦБ для финансовых компаний — не единственный. Например, в России есть общий (не только для банков) Кодекс этики в сфере искусственного интеллекта; аналогичные документы создают и в других странах.
Сегодня добровольность участия в таких проектах работает в плюс: ИИ находится в фазе активного развития, и многие практики ещё не устоялись. Людям только предстоит узнать, как всё будет работать на самом деле (а не гипотетически), и действительно ли технология создаёт новые риски, которые нужно жёстко регулировать.
Часто разговоры об ИИ-этике связаны с пугающими сценариями: мошенничество, дипфейки, подделка голоса. При этом большинство таких кейсов не нуждаются в отдельных законах — необходимое регулирование уже есть и работает. Например, мошенничество остается уголовно наказуемым преступлением, независимо от того, использовал злоумышленник ИИ или нет.
«Если технология порождает специфические риски — деградация моделей, галлюцинации, ошибки в принятии автоматических решений, — под них нужно учиться выстраивать защитные системы. Со временем они станут стандартом и естественным образом превратятся в регуляторное требование. Но если ИИ — это новый способ сделать то, что уже регулируется, то, возможно, отдельные законы не нужны. Ответственность за последствия в любом случае несёт человек, а не алгоритм».
Ещё один аргумент в пользу мягкого регулирования через кодексы — высокая стоимость технологий. В сфере ИИ дорогое всё: оборудование, специалисты, интеграция. Нельзя просто «воткнуть» модель — каждый раз нужно перестраивать процесс, в котором работает модель, целиком. Если на это наложится тяжелое регулирование с дополнительными расходами, заниматься развитием ИИ станет невыгодно, особенно в условиях сегодняшней гонки технологий.
Что дальше: агенты, лимиты и антихайп
Главный кандидат на появление в будущих версиях кодекса — ИИ-агенты. Пока реально работающих агентов на рынке мало, но технология набирает популярность.
Агент, в отличие от привычного ИИ, не только считает, генерирует или принимает решение, — он совершает действие. Например, не просто объясняет клиенту, почему не пришел кэшбэк, а сам доначисляет 500 рублей. Главный вопрос, который придётся регулировать, — как устанавливать лимиты на автоматические действия агента. Сейчас над решением думают все участники рынка, но ясная картина сложится, вероятно, через два-три года практики.
«В целом ажиотаж вокруг ИИ может повторить сценарий блокчейна, который семь лет назад называли новой нефтью. Потом хайп спал: технология нашла рациональное применение в нескольких конкретных нишах, а в остальных тихо отошла в сторону. Постепенно и в применении ИИ всё встанет на свои места: технологии продолжат развиваться там, где действительно эффективны. И уйдут оттуда, где обходятся слишком дорого или вовсе не работают».