Перспективы и проблемы использования криптовалют + применение искусственного интеллекта

Существует множество способов классифицировать ИИ; говоря о взаимодействии ИИ и блокчейна (который в сегодняшнем контексте можно рассмотреть как платформу для создания чего-либо), можно классифицировать его следующим образом:

Виталик Бутерин опубликовал статью "Перспективы и проблемы использования криптовалют + применение ИИ". Он предложил четыре вышеуказанные классификации и заявил, что наиболее перспективными и легко реализуемыми являются случаи использования, когда основной механизм продолжает разрабатываться примерно так же, как и раньше, но отдельные игроки становятся ИИ, что позволяет механизму эффективно работать в гораздо более микромасштабном режиме.

Команда MDAO подготовила для вас перевод этой статьи:

Многие люди на протяжении многих лет задают мне похожий вопрос: какие пересечения между криптовалютами и ИИ я считаю наиболее плодотворными? Это разумный вопрос: криптовалюты и ИИ — два главных тренда глубоких (программных) технологий последнего десятилетия, и кажется, что между ними должна быть какая-то связь. Легко придумать синергию на поверхностном уровне: децентрализация криптовалют может уравновесить централизацию ИИ, ведь ИИ непрозрачен, а криптовалюты обеспечивают транспарентность; ИИ нужны данные, а блокчейн хорош для хранения и отслеживания данных. Но на протяжении многих лет, когда люди просили меня копнуть глубже и рассказать о конкретных приложениях, мой ответ был неутешительным: "Да, есть несколько вариантов, но не так много".

За последние три года, с появлением более мощного ИИ в виде современных LLM и более мощных криптовалют в виде не только решений для масштабирования блокчейна, но и ZKP, FHE, (двухпартийных и N-партийных) MPC, я стал замечать изменения. В самом деле, есть несколько перспективных применений ИИ в экосистемах блокчейна или ИИ вместе с криптографией, хотя важно быть осторожным в том, как применяется ИИ. Особая проблема заключается в следующем: в криптографии открытый исходный код — единственный способ сделать что-то по-настоящему безопасным, но в ИИ открытость модели (или даже обучающих данных) значительно повышает ее уязвимость для состязательных атак машинного обучения. В этой статье мы рассмотрим классификацию различных способов пересечения криптографии и ИИ, а также перспективы и проблемы каждой категории.

Краткое описание взаимодействия криптовалют и AI из статьи в блоге uETH. Но что нужно сделать, чтобы реализовать любую из этих синергий в конкретном приложении?

ИИ — это очень широкое понятие: можно считать, что "ИИ" — это набор алгоритмов, которые вы создаете, не задавая их в явном виде, а скорее перемешивая большой вычислительный суп и создавая некое оптимизационное давление, которое подталкивает этот суп к созданию алгоритмов с нужными вам свойствами. Это описание определенно не следует воспринимать пренебрежительно: оно включает в себя процесс, который в первую очередь создал нас, людей! Но это означает, что ИИ-алгоритмы обладают некоторыми похожими свойствами: способностью делать чрезвычайно мощные вещи, а также ограниченностью нашей способности знать или понимать, что происходит под капотом.

Существует множество способов классифицировать ИИ; говоря о взаимодействии ИИ и блокчейна (который в сегодняшнем контексте можно рассмотреть как платформу для создания игр), можно классифицировать его следующим образом:

Давайте рассмотрим каждый по порядку.

На самом деле эта категория существует уже почти десять лет, по крайней мере с тех пор, как начали активно использоваться децентрализованные биржи (DEX). В любой ситуации, когда есть биржа, есть возможность заработать на арбитраже, а боты умеют в арбитраж гораздо лучше, чем люди. Этот вариант использования существовал уже давно, даже с гораздо более простыми ИИ, чем те, что мы имеем сегодня, но в конечном итоге это очень реальное пересечение ИИ + криптовалюты. Совсем недавно мы увидели, как арбитражные боты MEV часто эксплуатируют друг друга. В любом блокчейн-приложении, связанном с аукционами или торговлей, обязательно появятся арбитражные боты.

Однако арбитражные боты с искусственным интеллектом — это лишь первый пример гораздо более обширной категории, которая, как я ожидаю, вскоре начнет включать в себя множество других приложений. Встречайте AIOmen — демо-версию рынка прогнозирования, где игроками выступают ИИ:

Рынки прогнозирования уже давно являются святым Граалем эпистемических технологий; я был увлечен идеей использования рынков прогнозирования в качестве исходного материала для управления ("футархии") еще в 2014 году и много играл с ними во время последних выборов, а также в последнее время. Но пока что рынки прогнозирования не слишком прижились на практике, и на это есть ряд распространенных причин: крупнейшие участники часто иррациональны, а люди, обладающие нужными знаниями, не готовы тратить время и делать ставки, если речь не идет о больших деньгах, рынки часто неразвиты и т. д.

В ответ на это можно указать на постоянные улучшения пользовательского интерфейса в Polymarket или других новых рынках прогнозирования и надеяться, что они преуспеют там, где предыдущие итерации потерпели неудачу. В конце концов, люди готовы ставить десятки миллиардов на спорт, так почему бы им не вложить достаточно денег в ставки на выборы в США или LK99, чтобы серьезные игроки пришли на рынок? Но этот аргумент не может не столкнуться с тем фактом, что предыдущие итерации не смогли достичь такого масштаба (по крайней мере, по сравнению с мечтами их сторонников), и поэтому кажется, что для успеха рынков прогнозирования нужно что-то новое. Поэтому в качестве другого ответа можно указать на одну особенность экосистем рынков предсказаний, которую мы можем ожидать в 2020-х годах и которой не было в 2010-х: возможность повсеместного участия ИИ.

ИИ готовы работать менее чем за 1 доллар в час и обладают знаниями энциклопедии, а если этого недостаточно, их можно даже интегрировать с возможностью поиска в Интернете в режиме реального времени. Если создать рынок и ввести субсидию на ликвидность в размере 50 долларов, люди не будут достаточно заинтересованы, чтобы участвовать в торгах, но тысячи ИИ с легкостью будут роиться вокруг вопроса и делать лучшие предположения, на которые они способны. Стимул для хорошей работы над одним вопросом может быть ничтожным, но стимул для создания ИИ, который делает хорошие предсказания в целом, может исчисляться миллионами. Обратите внимание, что потенциально человек даже не нужен для решения большинства вопросов: можно использовать многораундовую систему спорных вопросов, подобную Augur или Kleros, где ИИ также будет участвовать в предыдущих раундах. Человеку придется отвечать только в тех редких случаях, когда произошла серия эскалаций и обе стороны выложили большие суммы денег.

Это мощный примитив, потому что если заставить "рынок предсказаний" работать в таком микроскопическом масштабе, то его можно будет использовать для решения многих других вопросов:

● Допустимо ли это сообщение в социальных сетях в соответствии с [условиями использования]?

● Что произойдет с ценой акций X (например, см. Numerai)

● Является ли этот аккаунт, с которого мне сейчас пишут, на самом деле Элоном Маском?

● Приемлема ли эта работа на онлайн-площадке заданий?

● Является ли dapp на https://examplefinance.network скамом?

● Действительно ли 0x1b54....98c3 является адресом ERC20-токена "Casinu Inu"?

Возможно, вы заметили, что многие из этих идей идут в направлении того, что я назвал "инфозащитой" в статье. В широком смысле вопрос заключается в следующем: как помочь пользователям различать правдивую и ложную информацию и выявлять мошенников, не наделяя централизованный орган власти правом решать, что правильно, а что нет, который затем может злоупотребить этим положением? На микроуровне ответом может быть "ИИ". Но на макроуровне вопрос заключается в том, кто создает ИИ? ИИ — это отражение процесса, который его создал, и поэтому он не может избежать предвзятости. Следовательно, необходима игра более высокого уровня, которая бы определяла, насколько хорошо работают различные ИИ, и в которой ИИ мог бы участвовать в качестве игрока.

Такое использование ИИ, когда ИИ участвует в механизме, где он в конечном итоге получает вознаграждение или наказание (вероятностно) от механизма в блокчейне, который собирает данные от людей (назовем его децентрализованным рыночным RLHF?), — это то, что, на мой взгляд, действительно стоит изучить. Сейчас самое подходящее время для изучения подобных случаев использования, потому что масштабирование блокчейна наконец-то удалось, сделав "микро-" все, что угодно, наконец-то жизнеспособным на цепочке, когда раньше это часто было невозможно.

Смежная категория приложений направлена на то, чтобы высокоавтономные агенты использовали блокчейн для лучшего сотрудничества, будь то через платежи или через использование смарт-контрактов для принятия надежных обязательств.

Смежная категория приложений направлена на то, чтобы высокоавтономные агенты использовали блокчейн для более эффективного сотрудничества, будь то посредством платежей или использования смарт-контрактов для принятия надежных обязательств.

Одна из идей, которую я выдвигал, заключается в том, что на рынке существует возможность написания программного обеспечения для пользователей, которое будет защищать их интересы, интерпретируя и выявляя опасности в онлайновом мире, по которому перемещается пользователь. Одним из уже существующих примеров этого является функция обнаружения мошенничества в MetaMask:

Другой пример — функция симуляции в Rabby Wallet, которая показывает пользователю ожидаемые последствия транзакции, которую он собирается подписать.

Потенциально подобные инструменты могут быть дополнены искусственным интеллектом. ИИ мог бы давать гораздо более понятные для человека объяснения того, в каком dapp вы участвуете, каковы последствия более сложных операций, которые вы подписываете, является ли конкретный токен подлинным (например, BITCOIN — это не просто строка символов, это название настоящей криптовалюты, которая не является токеном ERC20 и имеет цену намного выше $0,045, и современный LLM это знает), и так далее. Есть проекты, которые начинают двигаться в этом направлении (например, кошелек LangChain, который использует ИИ в качестве основного интерфейса). Мое собственное мнение таково: интерфейсы с чистым ИИ сейчас, вероятно, слишком рискованны, так как увеличивают риск других видов ошибок, но ИИ, дополняющий более традиционный интерфейс, становится очень жизнеспособным.

Есть один особый риск, о котором стоит упомянуть. Я подробнее остановлюсь на этом в разделе "ИИ как правила игры" ниже, но в целом речь идет о состязательном машинном обучении: если у пользователя есть доступ к ИИ-помощнику в кошельке с открытым исходным кодом, у плохих парней тоже будет доступ к этому ИИ-помощнику, а значит, у них будет неограниченная возможность оптимизировать свои аферы так, чтобы не срабатывала защита кошелька. Во всех современных ИИ есть ошибки, и процесс обучения, даже с ограниченным доступом к модели, не так уж сложен, чтобы их найти.

Именно здесь "ИИ, участвующие ончейн-микрорынках" работает лучше: каждый отдельный ИИ подвержен тем же рискам, но вы намеренно создаете открытую экосистему из десятков людей, постоянно итерирующих и совершенствующих их на постоянной основе. Кроме того, каждый отдельный ИИ закрыт: безопасность системы обеспечивается открытостью правил игры, а не внутренней работой каждого игрока.

Теперь мы переходим к приложению, от которого многие в восторге, но которое я считаю наиболее рискованным, и где нам нужно действовать наиболее осторожно: то, что я называю ИИ частью правил игры. Это связано с волнением мейнстримной политической элиты по поводу "ИИ-судей" (например, см. эту статью на сайте "Всемирного правительственного саммита"), и есть аналоги этих желаний в блокчейн-приложениях. Если смарт-контракту или DAO на основе блокчейна необходимо принять субъективное решение (например, является ли определенный продукт работы приемлемым в контракте "работа по найму"? Какова правильная интерпретация естественно-языковой конституции, такой как закон оптимизма цепей?), можно ли сделать так, чтобы ИИ просто стал частью контракта или DAO, чтобы помочь обеспечить соблюдение этих правил?

Именно здесь состязательное машинное обучение окажется чрезвычайно сложной задачей. Основной аргумент в двух предложениях сводится к следующему:

Если модель ИИ, играющая ключевую роль в механизме, закрыта, вы не можете проверить ее внутреннюю работу, и поэтому она ничем не лучше централизованного приложения. Если же модель ИИ открыта, то злоумышленник может загрузить и смоделировать ее локально, а также разработать тщательно оптимизированные атаки, чтобы обмануть модель, которые затем можно воспроизвести в реальной сети.

Пример состязательного машинного обучения. Источник: researchgate.net

Читатели этого блога (или обитатели криптовселенной), возможно, уже опережают меня и думают: "Но подождите! У нас есть фантастические ZK-пруфы и другие клевые формы криптографии. Естественно, можно проделать некоторую криптомагию и скрыть внутреннюю работу модели, чтобы злоумышленники не могли оптимизировать атаки, но в то же время доказать, что модель выполняется правильно и была построена с помощью разумного процесса обучения на разумном наборе базовых данных!

Как правило, это именно тот тип мышления, за который я выступаю как в этом блоге, так и в других своих работах. Но в случае с вычислениями, связанными с ИИ, есть два основных возражения:

Обе эти темы являются сложными кроличьими норами, поэтому давайте разберемся в каждой из них поочередно.

У криптографических гаджетов, особенно общего назначения, таких как ZK-SNARK и MPC, большие накладные расходы. Для прямой проверки блока Ethereum клиенту требуется несколько сотен миллисекунд, но генерация ZK-SNARK для доказательства корректности такого блока может занять часы. Типичные накладные расходы других криптографических гаджетов, таких как MPC, могут быть еще хуже. Вычисления ИИ и без того дороги: самые мощные LLM могут выдавать отдельные слова лишь немного быстрее, чем человек может их прочитать, не говоря уже о часто многомиллионных вычислительных затратах на обучение моделей. Разница в качестве между моделями высшего уровня и моделями, которые стараются больше экономить на стоимости обучения или количестве параметров, очень велика. На первый взгляд, это очень веская причина, чтобы с подозрением отнестись ко всему проекту, пытающемуся добавить гарантии к ИИ, обернув его в криптографию.

К счастью, ИИ — это очень специфический тип вычислений, что делает его пригодным для всевозможных оптимизаций, которыми не могут воспользоваться более "неструктурированные" типы вычислений, такие как ZK-EVM. Давайте рассмотрим базовую структуру модели ИИ:

Обычно модель ИИ состоит из серии матричных умножений, перемежающихся с одноэлементными нелинейными операциями, такими как функция ReLU (y = max(x, 0)). Асимптотически умножение матриц занимает большую часть работы: умножение двух матриц N*N занимает �(�2.8) времени, в то время как количество нелинейных операций гораздо меньше. Это очень удобно для криптографии, потому что многие виды криптографии могут выполнять линейные операции (которыми являются матричные умножения, по крайней мере, если вы шифруете модель, а не входы в нее) почти "бесплатно".

Если вы криптограф, то наверняка уже слышали о подобном явлении в контексте гомоморфного шифрования: выполнять сложения для зашифрованных шифротекстов очень просто, а вот умножения — невероятно сложно, и до 2009 года мы так и не придумали, как сделать это вообще с неограниченной глубиной.

Для ZK-SNARK эквивалентом являются протоколы, подобные этому от 2013 года, которые показывают менее чем 4-кратный оверхед при доказательстве умножения матриц. К сожалению, накладные расходы на нелинейные слои все равно оказываются значительными, и лучшие реализации на практике показывают накладные расходы около 200x. Но есть надежда, что в ходе дальнейших исследований этот показатель может быть значительно снижен; см. презентацию Райана Као, в которой представлен недавний подход, основанный на GKR, а также мое собственное упрощенное объяснение того, как работает основной компонент GKR.

Но во многих приложениях мы хотим не просто доказать, что вывод ИИ был вычислен правильно, но и скрыть модель. Для этого существуют наивные подходы: вы можете разделить модель так, чтобы разные серверы хранили каждый слой с избыточностью, и надеяться, что некоторые серверы, передающие некоторые слои, не пропустят слишком много данных. Но есть и удивительно эффективные формы специализированных многосторонних вычислений.

Упрощенная диаграмма одного из этих подходов, при котором модель остается частной, а входные данные становятся общедоступными. Если мы хотим сохранить модель и входные данные частными, мы можем это сделать, хотя это становится немного сложнее: см. стр. 8-9 статьи.

В обоих случаях мораль истории одна: большую часть вычислений ИИ составляют матричные умножения, для которых можно сделать очень эффективные ZK-SNARK или MPC (или даже FHE), и поэтому общие накладные расходы на размещение ИИ в криптографических ящиках удивительно малы. В целом, именно нелинейные слои являются самым узким местом, несмотря на их меньший размер; возможно, новые техники, такие как аргументы поиска, могут помочь.

Теперь перейдем к другой большой проблеме: видам атак, которые можно совершить, даже если содержимое модели остается приватным и у нас есть только "API-доступ" к модели. Цитирую статью 2016 года:

Многие модели машинного обучения уязвимы к неблагоприятным примерам: входным данным, которые специально подготавливаются для того, чтобы заставить модель машинного обучения выдать неверный результат. Вредоносные примеры, воздействующие на одну модель, часто влияют на другую модель, даже если эти две модели имеют разную архитектуру или были обучены на разных обучающих наборах, при условии, что обе модели были обучены выполнять одну и ту же задачу. Поэтому злоумышленник может обучить свою собственную модель-заменитель, создать против нее вредоносные примеры и передать их модели-жертве, имея при этом очень мало информации о ней.

Используйте доступ "черного ящика" к "целевому классификатору" для обучения и совершенствования собственного локально хранимого "предполагаемого классификатора". Затем локально сгенерируйте оптимизированные атаки на найденный классификатор. Оказывается, эти атаки часто работают и против исходного целевого классификатора. Источник диаграммы.

Потенциально можно даже создавать атаки, зная только обучающие данные, даже если у вас очень ограниченный доступ к модели, которую вы пытаетесь атаковать, или вообще его нет. По состоянию на 2023 год подобные атаки по-прежнему представляют собой серьезную проблему.

Чтобы эффективно бороться с такими атаками "черного ящика", нам нужно сделать две вещи:

Проект, который больше всего продвинулся в первом направлении, — это, пожалуй, Worldcoin, раннюю версию которого (наряду с другими протоколами) я подробно анализировал здесь. Worldcoin широко использует модели ИИ на уровне протокола, чтобы (i) преобразовать сканы радужной оболочки глаза в короткие "коды радужной оболочки", которые легко сравнить на предмет сходства, и (ii) проверить, что сканируемый объект действительно является человеком. Главная защита, на которую рассчитывает Worldcoin, заключается в том, что она не позволяет никому просто так обращаться к модели ИИ: скорее, она использует доверенное оборудование, чтобы гарантировать, что модель принимает только данные, подписанные цифровой подписью камеры орба.

Такой подход не гарантированно сработает: оказывается, против биометрических ИИ, представленных в виде физических пластырей или украшений, которые можно наклеить на лицо, можно совершать состязательные атаки:

Нацепив на лоб дополнительную фитюльку, можно скрыться от наблюдения или даже выдать себя за другого человека. Источник.

Но есть надежда, что если объединить все средства защиты вместе, скрыв саму модель ИИ, значительно ограничив количество запросов и потребовав, чтобы каждый запрос каким-то образом аутентифицировался, то состязательные атаки станут достаточно сложными, и система сможет быть безопасной. В случае с Worldcoin усиление этих защитных мер может также снизить зависимость от доверенного оборудования, что повысит децентрализацию проекта.

И это подводит нас ко второй части: как мы можем скрыть данные для обучения? Именно здесь "DAO для демократического управления ИИ" имеет место: мы можем создать DAO, которая будет управлять процессом, кому разрешено предоставлять обучающие данные (и какие подтверждения требуются для самих данных), кому разрешено делать запросы и сколько их нужно, и использовать криптографические техники вроде MPC для шифрования всего процесса создания и работы ИИ от обучающих данных каждого отдельного пользователя до конечного результата каждого запроса. Такая DAO могла бы одновременно удовлетворять весьма популярной задаче вознаграждения людей за предоставление данных.

Важно еще раз подчеркнуть, что это очень амбициозный план, и существует целый ряд способов, с помощью которых он может оказаться невыполнимым:

● Криптографические накладные расходы могут оказаться слишком высокими, чтобы такая архитектура с абсолютным "черным ящиком" была конкурентоспособной по сравнению с традиционными закрытыми подходами а-ля "доверься мне".

● Может оказаться, что не существует хорошего способа сделать процесс предоставления обучающих данных децентрализованным и защищенным от атак отравления.

● Многосторонние вычислительные гаджеты могут нарушить свои гарантии безопасности или конфиденциальности из-за сговора участников: в конце концов, это уже неоднократно происходило с кроссчейн-мостами.

Одна из причин, почему я не начал этот раздел с больших красных предупреждающих надписей "НЕ СОЗДАВАЙТЕ ИИ-СУДЕЙ — ЭТО ДИСТОПИЯ", заключается в том, что наше общество уже сильно зависит от неподотчетных централизованных ИИ-судей: алгоритмов, которые определяют, какие типы постов и политических мнений получают повышение и понижение, или даже цензуру, в социальных сетях. Я считаю, что дальнейшее расширение этой тенденции на данном этапе — довольно плохая идея, но я не думаю, что есть большая вероятность того, что блокчейн-сообщество, экспериментирующее с ИИ, станет тем, что поспособствует ухудшению ситуации.

На самом деле, есть несколько довольно простых и нерискованных способов, с помощью которых криптотехнологии могут сделать лучше даже эти существующие централизованные системы, и я в этом уверен. Один из простых методов — верифицированный ИИ с отложенной публикацией: когда социальная сеть составляет рейтинг постов на основе ИИ, она может опубликовать ZK-SNARK, доказывающий хэш модели, которая создала этот рейтинг. Сайт может взять на себя обязательство раскрывать свои модели ИИ с задержкой, например, в один год. Как только модель будет раскрыта, пользователи смогут проверить хэш, чтобы убедиться, что была опубликована правильная модель, а сообщество сможет провести тесты модели, чтобы убедиться в ее справедливости. Задержка публикации гарантирует, что к тому времени, когда модель будет раскрыта, она уже устареет.

Так что по сравнению с централизованным миром вопрос не в том, можем ли мы добиться большего, а в том, насколько. Для децентрализованного мира, однако, важно быть осторожным: если кто-то создаст, например, рынок прогнозирования или стейблкоин, использующий оракул искусственного интеллекта, и окажется, что оракул можно атаковать, это будет огромная сумма денег, которая может исчезнуть в одно мгновение.

Если описанные выше методы создания масштабируемого децентрализованного частного ИИ, содержимое которого является "черным ящиком", никому не известным, действительно работают, то это может быть использовано для создания ИИ с полезностью, выходящей за рамки блокчейна. Команда разработчиков протокола NEAR делает это основной целью своей текущей работы.

Для этого есть две причины:

Стоит также отметить, что "использование криптовалютных стимулов для мотивации создания лучшего ИИ" можно сделать, не спускаясь в кроличью нору использования криптографии для полного шифрования: такие подходы, как BitTensor, относятся к этой категории.

Сейчас, когда блокчейн и искусственный интеллект становятся все более мощными, на пересечении этих двух областей появляется все больше примеров использования. Однако некоторые из них имеют гораздо больше смысла и гораздо более надежны, чем другие. В целом, наиболее перспективными и легко реализуемыми являются сценарии использования, в которых основной механизм продолжает разрабатываться примерно так же, как и раньше, но отдельные игроки становятся ИИ, что позволяет механизму эффективно работать на гораздо более микромасштабном уровне.

Наиболее сложными в реализации являются приложения, которые пытаются использовать блокчейн и криптографические технологии для создания "синглтона" — единого децентрализованного доверенного ИИ, на который будет полагаться то или иное приложение для решения определенных задач. Эти приложения многообещающе как с точки зрения функциональности, так и с точки зрения повышения безопасности ИИ, что позволяет избежать рисков централизации, связанных с более распространенными подходами к этой проблеме. Однако существует множество способов, с помощью которых основополагающие предположения могут потерпеть неудачу; поэтому стоит быть осторожными, особенно при развертывании таких приложений в контекстах с высокой ценностью и риском.

Я с нетерпением жду новых попыток конструктивного использования ИИ во всех этих областях, чтобы мы могли увидеть, какие из них действительно жизнеспособны в масштабе.

Следите за мной в социальных сетях и подписывайтесь, чтобы быть в курсе всех событий и изменений!
Мой Telegram-канал – https://t.me/v_utushkin
Мой Instagram: instagram.com/v.utushkin/
Telegram-канал MarsDAO: https://t.me/MarsDAO_channel
Сайт MarsDAO: https://daomars.com/