Как контролировать ИИ и стимулировать людей с помощью криптографии

Некоторые эксперты считают, что ИИ должен контролироваться децентрализованными сетями. Другие говорят, что токены можно использовать для стимулирования людей к подготовке наборов данных.

Генератор текста ChatGPT - самое быстрорастущее потребительское приложение в истории, и оно все еще быстро растет.

Но грязный секрет ИИ заключается в том, что для создания, маркировки и структурирования обучающих данных по-прежнему требуются люди, а обучающие данные очень дороги. Темная сторона этого заключается в том, что создается экспоненциальная петля обратной связи, в которой ИИ становится технологией наблюдения. Поэтому управление людьми в петле ИИ имеет решающее значение.

Некоторые эксперты считают, что когда (потенциально) роботы захватят мир, их лучше контролировать с помощью децентрализованных сетей. А людей необходимо стимулировать к подготовке массивов данных. Блокчейн и токены могут помочь... но сможет ли блокчейн спасти человечество от ИИ?

ChatGPT - это просто переработанные данные

По словам известного исследователя ИИ Бена Гертцеля, ChatGPT - это большое дело, учитывая, что "из-за ChatGPT основатели Google впервые за много лет появились в офисе!" - смеется он. Гертцель является основателем основанного на блокчейне рынка ИИ SingularityNET и откровенным сторонником искусственного интеллекта общего назначения (AGI) - компьютеров, думающих сами за себя. Это означает, что он лучше других видит, где ChatGPT не справляется.

Бен Гертцель и его робот Дездемона (Как предотвратить "уничтожение человечества" искусственным интеллектом с помощью блокчейна)

Другими словами, ChatGPT - это действительно одна функция, достигаемая грубой силой наличия большого количества данных. "Это не тот способ, которым люди достигают широты путем итеративных актов творческого обобщения", - говорит он, добавляя: "Это хак; это красивый хак; это очень круто. Я думаю, это большой скачок вперед".

Он не сбрасывает со счетов и то, куда этот хак может нас привести. "Я не буду шокирован, если GPT-7 сможет выполнять 80% человеческой работы", - говорит он. "Это очень много, но это не значит, что они смогут быть мыслящими машинами человеческого уровня. Но они смогут выполнять большинство видов работ на человеческом уровне".

Логика, основанная на опыте, по-прежнему сложнее для ИИ, чем поиск информации в Интернете. Логика предикатов означает, что люди знают, как, например, открывать крышки бутылок, но ИИ нужны триллионы данных, чтобы научиться этой простой задаче. А хорошие большие языковые модели (LLM) все еще могут превращать язык в предикатную логику, включая параконсистентную логику или самопротиворечивую логику, объясняет Гертцель.

Гертцель отмечает, что это означает, что часть вопросов журнала является избыточной.

Гёрцель важен для понимания ИИ, потому что он специализируется на AGI. Он говорит, что он и 90% его коллег по AGI считают, что LLM, такие как ChatGPT, частично отвлекают от этой цели. Но он добавляет, что LLM также могут внести свой вклад и ускорить работу над всеми видами инноваций, которые могут сыграть роль в AGI. Например, LLM ускорят развитие кодирования. LLM могут даже помочь обычным людям, не имеющим способностей к кодированию, создать телефон или веб-приложение. Это означает, что основатели, не занимающиеся технологиями, могут использовать LLM для создания технологических стартапов. "ИИ должен демократизировать создание программных технологий, а затем, немного позже, и аппаратных технологий".

Гертцель основал SingularityNET как попытку использовать блокчейн и технологию с открытым исходным кодом для распространения доступа к технологиям, которые управляют ИИ, среди всех желающих, вместо того чтобы позволить им оставаться в руках монополий. Гертцель отмечает, что ChatGPT и другие текстовые приложения используют общедоступные алгоритмы с открытым исходным кодом. Таким образом, инфраструктура безопасности их наборов данных и участие пользователей в этой технологической революции сейчас находится на решающем этапе.

Это касается и развития ИИ в целом. В марте соучредитель OpenAI Элон Маск и более 1000 других технологических лидеров призвали остановить разработку ИИ или развертывание систем мощнее GPT-4. Их открытое письмо предупреждало о "глубоких рисках для общества и человечества". В письме утверждалось, что пауза даст время для внедрения "общих протоколов безопасности" для систем ИИ. "Если такая пауза не может быть введена быстро, правительства должны вмешаться и ввести мораторий", - заявили они.

Гертцель скорее оптимист в отношении потенциала технологии улучшить нашу жизнь, а не разрушить ее, но он работает над этим материалом с 1970-х годов.

- Бен Гоертцель (@bengoertzel)

29 марта 2023 г.

Необходимы системы репутации

Хумаюн Шейх был инвестором-основателем известной исследовательской лаборатории ИИ DeepMind, где он поддерживал коммерциализацию технологий ИИ и глубоких нейронных сетей на ранних стадиях. В настоящее время он возглавляет компанию Fetch.ai в качестве генерального директора и основателя. Это стартап, разрабатывающий автономное будущее с помощью глубоких технологий.

Он утверждает, что пересечение блокчейна и ИИ обусловлено экономическими причинами, поскольку финансирование, необходимое для обучения моделей ИИ, является непомерно дорогим, за исключением очень крупных организаций. "Вся предпосылка криптовалют - это демократизация технологий и доступа к финансам. Вместо того чтобы одна монополизированная организация полностью владела крупной моделью ИИ, мы предполагаем, что право собственности будет разделено между людьми, которые внесли вклад в ее разработку".

Одним из подходов к этому являются развивающиеся системы репутации и децентрализованные социальные сети. Например, компания Rejuve, созданная в рамках SingularityNet, занимается токенизацией и краудсорсингом биологических данных, предоставляемых людьми, в надежде с помощью ИИ проанализировать и сопоставить их с данными о животных и насекомых в надежде обнаружить, какие части генома могут помочь нам жить дольше. Это экономика долголетия, управляемая ИИ и основанная на Web3. Открытая наука должна оплачиваться - это мысль, а депоненты данных должны получать вознаграждение за свой вклад.

"Развитие ИИ зависит от обучения людей. Репутационные системы могут обеспечить гарантию качества данных, а децентрализованные социальные сети - гарантировать, что в процесс разработки будут включены разнообразные мысли и взгляды". Ускорение внедрения ИИ приведет к возникновению проблемы разработки беспристрастных технологий ИИ".

Управление ИИ на основе блокчейна также может помочь, утверждает Шейх, который говорит, что оно обеспечивает прозрачность и децентрализованное принятие решений через неоспоримую запись собранных данных и принятых решений, которую может увидеть каждый. Но технология блокчейн - это только одна часть головоломки. Правила и стандарты, как мы видим в ДАО, всегда будут необходимы для надежного управления", - говорит он.

Гертцель отмечает, что "нельзя купить и продать чужую репутацию", а токены имеют сетевой эффект. Основанные на блокчейне репутационные системы для ИИ могут гарантировать, что потребители смогут отличить подделки ИИ от реальных людей, а также обеспечить прозрачность, чтобы создатели моделей ИИ могли нести ответственность за свои конструкции ИИ. С этой точки зрения, необходим некий стандарт для токенизированного измерения репутации, принятый в сообществе блокчейн, а затем и в основной технологической экосистеме.

И, в свою очередь, репутационные системы могут ускорить инновации ИИ. "Это не путь к быстрым деньгам, но это часть пути к доминированию блокчейна в мировой экономике. В репутационном пространстве блокчейн - это своего рода трагедия общего пользования. Все выиграют от общей системы репутации".

Блокчейн для управления массивами данных

Данные в сочетании с искусственным интеллектом полезны для многих вещей - они могут диагностировать рак легких - но правительства по всему миру очень озабочены тем, как управлять данными.

Ключевой вопрос заключается в том, кому принадлежат наборы данных. Различия между открытыми и закрытыми источниками размыты, и их взаимодействие стало очень тонким. Алгоритмы ИИ обычно имеют открытый исходный код, но параметры наборов данных и сами наборы данных обычно являются проприетарными и закрытыми, в том числе и для ChatGPT.

Общественность не знает, какие данные использовались для обучения ChatGPT-4, поэтому, несмотря на то, что алгоритмы являются общедоступными, ИИ невозможно воспроизвести. Разные люди предполагают, что он был обучен на наборах данных, включая Google и Twitter - в то же время Google отрицает, что обучал свой собственный ИИ под названием Bard на данных и разговорах ChatGPT, что еще больше мутит воду в вопросе о том, кому что принадлежит и как.

Известный ИИ-вице-президент Кай-Фу Ли часто говорит, что ИИ с открытым исходным кодом - это величайшее сотрудничество людей в истории, а исследовательские работы по ИИ обычно содержат наборы данных для воспроизводимости или копирования другими. Но, несмотря на заявления Ли, данные, когда они прилагаются к академическим исследованиям, часто обозначаются неправильно и труднодоступны "самым непонятным, трудным и раздражающим образом", - говорит Гертцель. Даже открытые наборы данных, например, для научных работ, могут быть неструктурированными, неправильно обозначенными, бесполезными и в целом трудновоспроизводимыми.

Таким образом, в предварительной обработке данных в ИИ в сочетании с блокчейном явно есть "сладкая зона". У криптовалютных компаний и DAO есть возможность создать инструменты для децентрализованной инфраструктуры для очистки обучающих наборов данных. Открытый исходный код - это одно, но защита данных имеет решающее значение.

"Вам нужны способы доступа к живым моделям ИИ, но в конечном итоге кто-то должен платить за компьютер, выполняющий процесс", - отмечает Гертцель. По его словам, это может означать, что пользователи будут платить за доступ к ИИ по подписке, но токеномика вполне подходит для этого. Так почему бы не стимулировать хорошие наборы данных для дальнейших исследований? Криптофирмы могли бы создавать "конвейеры анализа данных" для таких вещей, как данные геномики. LLM уже хорошо справляются с этой задачей, но "большинство этих этапов предварительной обработки могут быть лучше выполнены децентрализованными компьютерами", - говорит Гертцель, - "но для их создания нужно проделать много работы".

Сотрудничество человека и ИИ: Океаны данных нуждаются в ответственных распорядителях

По словам Трента МакКонаги, канадского основателя компании Ocean Protocol, один из практических способов осмысления сотрудничества ИИ и человека - это идея "автоматизированного проектирования" (CAD). С 1980-х годов инженеры пользуются преимуществами САПР с поддержкой ИИ. "Это важное обрамление: Люди работают в связке с компьютерами для достижения целей, используя при этом сильные стороны обоих", - говорит он.

МакКонахи начал работать в области ИИ в 1990-х годах для канадского правительства и провел 15 лет, создавая инструменты САПР с поддержкой ИИ для проектирования схем. В 2016 году он написал одну из самых первых серьезных статей о блокчейн для ИИ.

САПР дает нам практическую основу для сотрудничества ИИ и человека. Но эти инструменты CAD с поддержкой ИИ все еще нуждаются в данных.

- Трент МакКонаги (@trentmc0)

20 марта 2023 г.

Для решения этой проблемы МакКонаги в 2017 году основал компанию Ocean Protocol. Ocean Protocol - это общественная сеть для безопасного обмена данными ИИ при сохранении конфиденциальности. "Это игра в ИИ с использованием блокчейна, и речь идет о демократизации данных для планеты". Впечатляет, что это шестой по активности криптопроект на GitHub.

Спасибо, @finbold @proofofgithub за признание.

- Ocean Protocol (@oceanprotocol)

10 января 2023 г.

Блокчейн может многое сказать о том, как передать данные в руки обычных людей. Как и Гертцель, МакКонаги считает, что распределенные компьютеры могут внести важный вклад в защиту ИИ от недобросовестного использования. IPFS, Filecoin, Ocean Protocol и другие децентрализованные контроллеры данных возглавляли эту миссию в течение последних нескольких лет.

Фермерство данных в Ocean уже стимулирует людей курировать активы данных, которые, по их мнению, будут иметь высокую активность для развития ИИ. В качестве примеров можно привести рынок корпоративных данных Acentrik, AI-помощников для организаций из Algovera и децентрализованный протокол соревнований по науке о данных Desights. По словам Макконаги, "проблема для людей, занимающихся ИИ, заключается в получении большего количества данных и проверке их происхождения".

Блокчейн может помочь ИИ с безопасным обменом данными (необработанными обучающими данными, моделями и необработанными обучающими прогнозами) с неизменяемостью, проверкой происхождения, хранением, цензуроустойчивостью и конфиденциальностью.

МакКонаги считает это огромным плюсом для интеграции двух технологий. Он вырос, играя в хоккей, управляя тракторами и взламывая компьютеры в Саскачеване, но всегда оставался "ботаником ИИ по профессии". "ИИ преобразует данные в ценность, но люди должны решать, какие активы данных могут быть хорошими".

Компания Ocean Protocol пошла еще дальше и заложила основы экономики данных ИИ. Он токенизирует активы данных, чтобы люди могли публиковать ценные данные в виде NFT и токенов, хранить их в кошельках, выставлять на продажу на data DEXs и даже управлять ими в data DAOs. Токенизация данных разблокирует экономику данных, используя инструментарий DeFi. Но станут ли эти усилия мейнстримом раньше, чем это сделает ИИ?

Трент МакКонаги, канадский основатель компании Ocean Protocol, создающей рынки данных.

Децентрализованные компьютеры - пожалуйста, для автономных роботов

AGI - это когда компьютеры начинают думать самостоятельно и создавать более совершенные версии собственного исходного кода. "AGI человеческого уровня может читать свой собственный исходный код и существующие математические и компьютерные науки и может создавать свои копии для экспериментов, а затем строить следующий уровень - искусственный сверхинтеллект ASI", - объясняет Гертцель.

По мнению Гертцеля, гораздо лучше, чтобы этой технологией руководили все, а не один игрок, например, технологическая компания или страна.

Если вы развернете систему AGI на миллионы людей по всему миру, и кто-то не сможет приставить пистолет к вашей голове и сказать: "Отдайте мне систему" - блокчейн решает эту проблему, верно? Блокчейн решает эту проблему лучше, чем проблему денег", - утверждает Гертцель.

Гертцель определяет AGI как "программное или аппаратное обеспечение с надежной способностью к обобщению за пределами своего программирования и обучения; оно способно создавать значительные творческие скачки за пределами информации, которую ему дали".

"По моим оценкам, сейчас мы находимся на расстоянии от трех до восьми лет от AGI человеческого уровня, затем несколько лет до сверхчеловеческого AGI. Мы живем в интересные времена".

Многие согласны с тем, что грядущее в развитии ИИ может стать одним из важных сценариев использования блокчейн-управления. "AGI станет причиной встречи мировых лидеров. AGI должен быть с открытым исходным кодом, работающим на миллионах машин, разбросанных по всей планете", - говорит Гертцель. "Таким образом, ни одна страна не сможет взять его под свой контроль, и ни одна компания не сможет взять его под свой контроль".

Криптовалюта для ИИ - это немного другое", - объясняет он. ИИ, а затем и AGI нуждаются в механизмах управления для принятия решений, выходящих за рамки обучающих данных и программирования. Репутационная целостность наборов данных имеет решающее значение. По этой причине он утверждает, что "репутация не может быть взаимозаменяемой для наборов данных ИИ". Когда ИИ выходит из-под контроля, кому вы собираетесь звонить?

Децентрализованные технологии не могут быть полным решением проблемы

Де Кай, профессор компьютерных наук и инженерии в HKUST и выдающийся исследователь Международного института компьютерных наук в Беркли, согласен с тем, что основным узким местом для демократизации ИИ являются огромные вычислительные ресурсы, на которых работают ИИ. Но он не уверен, что децентрализованные технологии могут стать полным решением проблемы. "Мы никогда не дойдем до стадии Терминатора, если не решим насущные проблемы сейчас. Существуют экзистенциальные проблемы, связанные с тем, что ИИ подсознательно разрывает общество на части. Нам нужно решать проблемы человеческих предубеждений и предубеждений ИИ".

Он говорит, что децентрализованные технологии все еще находятся в стадии эксперимента, в то время как эти проблемы Web2 должны быть решены в первую очередь, потому что они создают нам проблемы здесь и сейчас.

Прозрачность наборов данных имеет решающее значение, говорит Кай, но если набор данных - это весь интернет, то этот набор данных фактически является открытым исходным кодом. Google обучен на 100% на Интернете, LLM скоро вытеснят алгоритмы поисковых систем, утверждает он. LLM можно обучить почти на 100% вне интернета, утверждает он.

Таким образом, Кай оспаривает идею о том, что блокчейн решит проблему неуправляемых ИИ.

Обратной стороной этого [децентрализованных вычислений для ИИ] является аргумент, что это приведет к голливудским сценариям Skynet, и они сами смогут сделать ИИ более автономным. Децентрализация этих вычислительных мощностей не является решением, поскольку вы можете непреднамеренно получить легионы ИИ".

Каково же тогда наилучшее решение? "Децентрализация полезна до определенного момента, но это не волшебная пуля. Web2 породил непредвиденные последствия. Нам нужно учиться на этой логике и понять, что блокчейн - это одна из основополагающих технологий, которая предлагает массу преимуществ, но, опять же, это не волшебная пуля".

Но, конечно, не все данные находятся в свободном доступе в Интернете: научные исследования, медицинские данные, персональные данные, собранные приложениями, и многие другие частные данные могут быть использованы для обучения ИИ.

Одним из наиболее полезных инструментов, по его словам, является создание крупномасштабных симуляций, позволяющих увидеть, как все это может быть реализовано. Вопрос, по его словам, заключается в том, чтобы "решить, что мы децентрализуем, а что не децентрализуем".

Де Кай: испытывает опасения, но видит решения (TEDx)

Заключение: Лучшая предварительная обработка данных с помощью блокчейн

Итак, какова "золотая середина" для блокчейна + ИИ? "То, что блокчейн будет рассматриваться и использоваться как критически важный элемент развития ИИ, будет той самой пресловутой "сладкой точкой", - говорит Шейх.

"Централизация всех данных модели ИИ, на наш взгляд, не является оптимальной для развития ИИ. Вместо этого, если дать возможность людям, которые обучали модель, владеть своими собственными данными и получать стимулы в зависимости от того, какое влияние они оказали на точность понимания, это еще больше ускорит внедрение ИИ". Модели ИИ, созданные на такой платформе, могут быть более масштабируемыми и устойчивыми при улучшенной безопасности и конфиденциальности".

"В 70-80-е годы одной из самых больших ошибок было предположение, что то, что мы делаем с ИИ, правильно. Сейчас мы должны снова проверить наши предположения", - беспокоится де Кай.

#AI #ИИ #Искусственный интеллект #крипто #децентрализация оригинал