Собирать шахматы в доску и руководить

Применение искусственного интеллекта в финансовой сфере сопряжено с рядом рисков, которые необходимо купировать при помощи регулирования, но при этом важно не «передавить», как это было до недавнего времени в Евросоюзе, где принципы регулирования вынудили некоторые крупные компании релоцироваться за пределы ЕС

О таких последствиях неграмотного подхода к регулированию рассказал Герман Греф, глава СберБанка, на FINOPOLIS 2023. Тогда же, осенью 2023 года, Банк России опубликовал доклад для общественных консультаций в части применения ИИ в финансовой отрасли, часть которого была посвящена обзору существующих принципов, регламентирующих использование технологии. В частности, был рассмотрен международный опыт, где выделяют три подхода: ограничительный (Евросоюз, Бразилия), гибридный (Китай, Канада, США) и стимулирующий (Сингапур, Великобритания).

С тех пор Европейский союз сделал огромный шаг вперед и 13 марта 2024 года принял закон об искусственном интеллекте (The EU AI Act), который носит рискориентированный характер и выделяет четыре группы риска: недопустимый, высокий, ограниченный и минимальный (отсутствующий).

Тем временем в нашей стране пока не выработаны регламенты, по которым технологии ИИ будут использоваться и развиваться. Обсуждению данного вопроса была посвящена одна из сессий Международного финансового конгресса Банка России «Искусственный интеллект: подходы к регулированию», модератором которой выступила Ольга Скоробогатова, первый зампред ЦБ.

По ее словам, ИИ нельзя регулировать как общее явление, но возникает вопросы: где найти места для точечного регулирования и как спрогнозировать уровень риска.

Некоторые точки в рамках дискуссии обозначил Вадим Кулик, заместитель президента — председателя правления ВТБ: «Мы как индустрия, активно использующая ИИ, должны выступить с инициативами о том, что именно регулировать и как регулировать процессы обмена данными, ответственность разработчика, равенство доступа, обозначить фильтры, защищающие от отравления выборок, от галлюцинаций, возникающих в моделях».

Анджей Аршавский, управляющий директор по управлению и монетизации данных Мосбиржи, добавил конкретики в дискуссию на примере алготрейдинга, который развивается в числе прочего на основе ИИ. По его мнению, данная технология может существенно повлиять на эффективность алгоритмической торговли, что порождает как риски, так и возможности. Сегодня алготрейдинг недоступен для массового инвестора, и большую часть прибыли создатели алгоритмов забирают себе. Ситуация здесь может очень быстро измениться, и не исключено, что появится алгоритм, в который частный инвестор сможет вкладывать деньги как в доверительное управление. Для того чтобы это привело к позитивному результату, необходимо регулирование, вносящее прозрачность в эти алгоритмы, считает эксперт.

Он полагает, что должна появиться некая инфраструктурная площадка, не связанная с создателями алгоритмов, на которой будет осуществляться контроль с точки зрения манипуляции рынками и валидироваться эффективность.

Вторая часть, которая требует регулирования, по мнению Анджея Аршавского, располагается в зоне, где ИИ используется для раскачивания финансовых рынков с помощью языковых генеративных моделей в виде различных текстовых сообщений, мнений псевдоэкспертов. При этом спикер считает, что валидация языковых моделей специфична для каждой отрасли: «С появлением технологий GPT их применение в разных отраслях требует разного регулирования. Тем не менее в этом должны участвовать некие институты, которые внедрили бы общую методологию, например, сравнения качества работы модели». Он привел в качестве примера отчет компании OpenAI, где сравнили работу моделей GPT 3,5 и GPT 4. Подобной аналитики относительно российских моделей не существует, хотя потребность со стороны потребителей огромная.

Своим мнением по поводу возможного очертания будущего регулирования поделился и Дмитрий Зауэрс, зампред правления Газпромбанка. Для начала он выделил три вида моделей ИИ. Первые — большие языковые модели, которые создаются двумя-тремя игроками на рынке, а пользоваться ими могут все индустрии и все пользователи, будь то b2c или b2b. Второй тип моделей подразумевает сотрудничество между организациями, например банками, в части использования антифрод- или скоринг-моделей. Третий тип — это внутренние модели, которыми банки будут конкурировать друг с другом. По первому типу моделей Дмитрий Зауэрс предложил ввести жесткое регулирование их использования рынком и потребителями. Для второго типа моделей необходимо вводить мягкое регулирование, чтобы банки могли обмениваться данными для их развития. Третий тип представитель ГПБ предлагает вообще не регулировать, назвав ошибкой поднимавшийся ранее в дискуссии вопрос интерпретации. Он считает, что интерпретируемость моделей не дает возможности создавать более эффективные модели. «Любая попытка вручную подкрутить или проверить, как работает модель, — это латентный луддизм, когда люди думают, что они будут добавлять качества», — считает эксперт. При этом он согласен, что валидировать модели перед выпуском в промо необходимо.

Подводя итог своему выступлению, спикер привел в пример парадокс Моравека, согласно которому ИИ легко может обыграть человека в шахматы, но собрать шахматы в доску он не способен. Он предложил отдать ИИ возможность делать работу, с которой тот способен справиться, а человеку — оставить возможность «собирать шахматы и руководить».