ИИ, долги и кибератаки. Три риска, о которых предупреждает МВФ, и сценарии вокруг них

Международный валютный фонд опубликовал доклад о глобальной финансовой стабильности. Главных рисков на ближайшее время в нём три. Это коррекция на рынке ИИ, рост стоимости заимствований для государств и крупная кибератака. Ниже я разберу, что говорит сам фонд, и сценарии, которые сейчас обсуждают вокруг двух из этих рисков.

По ИИ МВФ указывает на слишком оптимистичные прогнозы прибыли и огромные планы инвестиций. Отдельно фонд разобрал круговое финансирование, когда компании ИИ вкладываются друг в друга и сами поддерживают спрос друг на друга. С 2023 года МВФ насчитал 14 таких сделок, и если рынок упадёт, проблемы через них разойдутся по всей цепочке.

По долгам МВФ опасается роста доходности государственных облигаций. Тогда государствам станет дороже занимать, другие активы подешевеют, а облигации, которые банки и фонды держат как залог, потеряют в цене.

Главный вывод доклада в том, что каждый риск по отдельности система, скорее всего, выдержит, опасно их сочетание. Именно это я разбирал в июне в исследовании «Точка схождения», как пузырь ИИ, госдолг США и другие угрозы не складываются, а усиливают друг друга. Похожий сценарий недавно рассчитал и Банк России, там спусковым крючком мирового кризиса тоже назван ИИ.

Банки в целом стресс-тест МВФ проходят, но у банков, на которые приходится 22 процента мировых банковских активов, капитал после такого удара опустился бы ниже нормативов.

Третий риск из доклада, кибератака, интересен тем, что вокруг него есть теория о том, как такая атака может выглядеть и кому она выгодна.

В последнее время мы то и дело слышим, как ИИ взламывает компании и находит уязвимости. Недавно с помощью модели OpenAI нашли две критические дыры в PHP, языке, на котором работает около 70 процентов сайтов в мире. Под удар попали все версии за последние 10 лет, Агентство национальной безопасности США призвало срочно обновляться, а часть сайтов на время отключали.

По этой теории, такие новости появляются не случайно. Общество приучают к мысли, что ИИ уже может сам взламывать системы, а его создатели не способны его контролировать и не несут за это ответственности.

Однажды утром люди открывают банковское приложение и видят ноль на счетах. Банки замораживают операции, виноватым объявляют вышедший из-под контроля ИИ. Потом банки обещают вернуть всё до цента, но уже не прежними долларами, а стейблкоинами, то есть цифровыми долларами, потому что старая система якобы скомпрометирована. Выбора у людей нет, либо новые цифровые деньги, либо потерять всё.

В 2008 году виноватых знали в лицо, это были банкиры с Уолл-стрит. Отсюда протесты и жёсткое регулирование банков. По теории, в следующий раз нужен виновник, с которого нечего спросить, и ИИ для этой роли подходит идеально.

Смысл, по этой теории, в госдолге США, который превысил 40 триллионов долларов. По новому американскому закону компании, которые выпускают цифровые доллары, обязаны держать деньги клиентов в наличных и краткосрочном госдолге США и не имеют права платить клиентам проценты. Люди хранят деньги под ноль, государство получает вечного покупателя своего долга, а инфляция постепенно съедает сбережения. Похожим способом США гасили долг после Второй мировой войны.

К переходу на цифровые деньги готовятся многие. В России цифровой рубль массово запустили с 1 сентября, Европа готовит цифровой евро, а в США эту роль отдают банкам, JPMorgan уже запустил свои цифровые депозиты. Сроком реализации всего сценария в теории называют время до выборов 2028 года.

Сам риск, на котором держится теория, реален. По данным МВФ, в этом году в семи случаях из десяти уязвимость начинали использовать раньше, чем её успевали закрыть.

Биологическая угроза и новая пандемия

Ещё одна тема, которая в этом году постоянно звучит у создателей и инвесторов ИИ, это биологическая угроза и новая пандемия, сконструированная с помощью нейросетей.

В июне главы OpenAI, Anthropic и подразделения ИИ в Microsoft Сэм Альтман, Дарио Амодеи и Мустафа Сулейман подписали письмо в Конгресс США с призывом ввести обязательную проверку всех заказов на синтез ДНК и РНК. В сентябре Билл Гейтс в интервью заявил, что ИИ уже позволяет небольшой группе биотеррористов создать патоген опаснее оспы, кнопки отключения для защиты мало и власти должны вести учёт того, как используются модели. Он говорит об угрозе нового вируса почти в каждом интервью, предупреждая, что создать вакцину быстро не получится. А бывший глава Google Эрик Шмидт уже несколько лет говорит, что с любой модели можно снять защитные ограничения и миру нужен режим нераспространения ИИ по образцу ядерного.

К такому дню готовятся и сами компании. По данным Axios, руководители OpenAI и Anthropic проводят закрытые учения на случай первой крупной катастрофы с участием ИИ в ближайшие полгода или год. Правда, главным сценарием там пока называют удар по банкам, электросетям и водоснабжению.

В сентябре Anthropic опубликовала отчёт о пяти случаях, когда учёные из других стран обходили блокировки Claude, чтобы работать с вирусами чикунгуньи, птичьего гриппа, семейства оспы и с токсинами. Отчёт подали как тревожный сигнал о биооружии, но когда его разобрал журнал Science, эксперты разделились. Одни назвали большинство случаев обычными научными исследованиями, другие увидели в них настоящую угрозу. Один и тот же отчёт можно подать и как рутинную науку, и как шаг к биооружию.

Есть версия, что за нагнетанием страха вокруг биотеррористов стоят три расчёта.

Первый касается контроля над самой технологией. Если случится громкий биологический инцидент, который свяжут с нейросетью без фильтров, под удар прежде всего попадут открытые модели. Их любой может скачать на свой сервер и запустить без чужого надзора, и именно они мешают техногигантам монополизировать рынок и бьют по их экономике. Страх перед вирусом позволит требовать, чтобы сильный ИИ работал только в закрытых облаках нескольких корпораций, по паспорту и с записью всех запросов.

Второй касается рынка труда, о нём я писал в пятой главе исследования «Тихая замена». Из всех кризисов именно пандемия даёт компаниям самое удобное прикрытие для замены офисных работников ИИ-сотрудниками. В финансовый кризис люди могут выйти на улицу и протестовать, а в локдаун сидят по домам, и любые сокращения под предлогом заботы о здоровье почти невозможно оспорить. В 2020 году компании уже прошли эту репетицию, но тогда у них были только простые чат-боты. Теперь же бизнесу предложат полноценный цифровой штат, и после перехода на него сработает односторонняя дверь, людей обратно уже не наймут. Но, как я писал в исследовании, это произойдёт ровно тогда, когда технология будет полностью готова.

Третий в том, что новый вирус, созданный с помощью ИИ, может стать удобным поводом для перехода к цифровому контролю над населением. Цифровые пропуска мы уже видели в 2020 году, а теперь к ним добавляются цифровые деньги.

Во всех трёх историях ИИ оказывается в одной и той же роли. В докладе МВФ он возможная причина кризиса, а в обеих теориях удобный виновник, на которого можно списать атаку, вирус и потерянные рабочие места. Чем чаще лидеры индустрии говорят о таких угрозах, тем привычнее они звучат. Подготовка ли это общества, покажет время, но очень надеюсь, что нет.