Исследование: даже «примитивные» ИИ-боты на виртуальном рынке акций стабильно вступали в «сговоры» и делили прибыль вместо конкуренции

Они также были склонны к «коллективной тупости» — следовали одним и тем же проверенным стратегиям.

Показатель «способности к сговору». По шкале от 0 (сговора не было) до 1 («идеальный» картель) боты «стабильно» набирали выше 0,5. График Bloomberg

Исследователи Пенсильванского и Гонконгского университетов создали симуляцию рынка с участием разных игроков — долгосрочных фондов, маркетмейкеров и инвесторов, гоняющихся за «мемными» акциями, и запустили в неё ИИ-ботов. Эксперимент длился три года.
ИИ‑агенты разного типа начали «сговариваться», а не конкурировать, создавая картели, чтобы делить прибыль. При этом боты старались «действовать осторожно», когда махинации могли выглядеть «подозрительно».

«Даже довольно примитивные ИИ‑алгоритмы можно подтолкнуть к сговору без всяких подсказок. Это происходит практически в любых условиях — будь то очень “шумный” рынок или, наоборот, спокойный», — сказал один из авторов исследования, профессор финансов Уортонской школы Пенсильванского университета Итай Голдштейн.
Исследователи также вывели показатель «искусственной тупости» — склонности ботов переставать пробовать новые подходы только потому, что опробованные прибыльные модели «уже достаточно хороши».
«Людям сложно согласованно быть “тупыми”, потому что у нас есть эго, а машинам всё равно, если есть прибыль», — пояснил один из исследователей Уинстон Ду.
Некоторые инвестиционные фирмы уже попросили исследователей дать рекомендации по ведению торгов с ИИ, чтобы избежать подобных «сговоров» и случайно не столкнуться с проверками регуляторов, добавил Ду. Какие именно фирмы, он не раскрыл.
Работой также заинтересовалось Управление по регулированию финансовой индустрии США.

#редакция #ии