Холодная война в сфере ИИ?

С разницей всего в несколько дней США и Китай опубликовали свои взгляды на будущее ИИ. Про американский America’s AI Action Plan я уже писал — в нем заявляется, что в мире уже идет ИИ-гонка, США должны ее выиграть, а основным соперником представляется Китай.

Для победы планируется максимально освободить разработчиков ИИ от бюрократии, ударными темпами развивать энергетику — тренировка моделей требует все больше электричества. Ну и накинуть санкций на главного соперника — вплоть до обсуждения идеи GPS-меток, которые будут выключать чипы, если те попадут на территорию “недружественных стран”.

Китайский план представили на Всемирной конференции по ИИ в Шанхае, и он выглядит полной противоположностью. Очень много слов говорится о международном сотрудничестве на базе ООН, равном доступе к технологиям для всех стран, совместном решении вопросов безопасности и так далее. Китайцы тоже отмечают важность энергетики, упирая на то, что она должна быть “зеленой”, а новые алгоритмы — максимально энергоэффективными.

В плане еще много слов про инклюзивность и прозрачность, но если вчитаться внимательно, то очевидно — и китайцы видят своим основным соперником США. И параллельно со словами о главенстве ООН призывают к созданию ИИ-коалиции со штаб-квартирой все в том же Шанхае.

Еще вопрос, в чьем плане больше искренности. America’s AI Action Plan также включает большой раздел по дипломатии в котором предложено сотрудничать с дружественными США странами. Эти страны первыми получат доступ к передовым технологиям — разумеется, если будут разделять американские взгляды. Прямо, но в чем-то честно.

Китай пока что в гонке ИИ выступает в роли догоняющего — у него все хорошо с энергетикой, но собственные чипы для тренировки отстают на несколько лет, поэтому сохраняется большая зависимость от ускорителей NVIDIA. Потеря доступа к ним значит еще больший откат, поэтому очевидно, что китайцы будут упирать на прозрачность, открытость и международный надзор, давя на страхи перед небезопасным ИИ. Но как повернется китайская политика в случае ликвидации отставания — большой вопрос.

Весной гремел знаменитый сценарий AI-2027, написанный группой исследователей во главе с бывшим безопасником OpenAI Дэниелом Кокотайло. В нем показано, как ИИ достигает уровня, на котором люди его уже не понимают. Дальше предложено два варианта развития: и в случае, когда ИИ удается выскользнуть из-под контроля создателей — все заканчивается очень плохо.

А одной из главных причин выхода из-под контроля является просто параноидальное противостояние США и Китая. В нем каждая сторона боится, что соперник вырвется вперед и “срезает углы” в вопросах безопасности ИИ.

Так что можно много говорить о победе в гонке или международной прозрачности, но куда лучшим сценарием для всех будет, если две лидирующих в разработке ИИ страны сядут и договорятся.

P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.