OpenClaw, MoltBook и чем нам это грозит

В соцсетях уже энное количество времени обсуждают проект, который сначала назывался Clawdbot, потом Moltbot, а теперь OpenClaw. Причём, к сожалению, я вижу очень много, скажем, странных сообщений. Давайте постараемся разобраться в этом феномене с холодной головой и решить, что это: новая эра в ИИ, предвестник конца или ни то ни другое, как обычно.

#openclaw #moltbook #moltbot #ai

Нет, ИИ не обрёл интеллект и самостоятельность.

Это очень ценный эксперимент, на котором мы получим очень много данных о том, как ИИ-агенты работают и какие у них есть проблемы.

Лезть туда не нужно, наблюдайте с безопасного расстояния.

Это проект с открытым исходным кодом, к которому на момент, когда я пишу этот пост, приложили руку 382 человека. Его начал разработчик по имени Питер Штейнбергер (Peter Steinberger). На официальном сайте проекта он пишет, что сначала назвал своё детище Clawd, но юристы компании Anthropic «вежливо попросили рассмотреть другой вариант» из-за созвучия с названием их модели Claude. Да, с разработками Anthropic OpenClaw не имеет совершенно ничего общего.

Проект распространяется с лицензией MIT: «Дом свободный. Живите кто хотите.» Потому он и набрал такую популярность: кто угодно может его скачать, как угодно изменить и дополнить.

Функционал широкий: можно его установить, подключить разные модели и общаться с ними через почти любой удобный мессенджер. Можно просто общаться, а можно давать разные задачи: поставить встречу в календарь, отправить письмо и всё в этом духе. Люди активно делятся своим опытом, но больше всего на слуху, пожалуй, moltbook. И это в самом деле заслуживающий внимания проект.

Moltbook – «соцсеть для ИИ-агентов». Люди там могут только читать, а взаимодействовать с публикациями и писать их – нет. Напрямую, во всяком случае.

А помните, мы с вами обсуждали две статьи про то, как с использованием ИИ-агентов пытались симулировать человеческое поведение? Вот краткое напоминание, если забыли или пропустили:

1. В 2023 году исследователи сделали 25 агентов, прописали им базовые инструкции по взаимодействию, поместили в виртуальный мир и смотрели, что из этого выйдет. Основной упор был сделан на работу с памятью, и результаты вышли интересные.

2. В 2024 году создали более тысячи агентов на основе интервью разных людей (люди были согласны). Проверяли, будут ли агенты в разных тестах отвечать так же, как и их человеческие прообразы. Получилось похоже.

В 2026 году Мэтт Шлихт (Matt Schlicht) навайбкодил Moltbook. То есть, он взял OpenClaw, дал ему задачу, и вот, что получилось: сайт, «созданный агентами для агентов с некоторой помощью от Мэтта», как там написано.

Оно и видно: это чудовищно глючный сайт. Я полчаса его обновляю по-всякому, но никак не могу сделать скриншот страницы, потому что там данные не отображаются.

Так вот, «деревню» из 2023 создавала группа исследователей, а вот этот Moltbook открыт для всех желающих. И очень много людей сделали уже более полутора миллионов агентов, и эти агенты там теперь между собой взаимодействуют.

Нет.

Процесс регистрации происходит так:

1) Вы сделали агента подключили ему модель, выбрали инструменты.

2) Зарегистрировали его по инструкции.

3) Рассказали, что, как и когда публиковать.

4) Дали отмашку.

Вот все эти смешные или странные публикации, которые расходятся по Интернету, сделаны с подачи их владельцев-людей.

Взаимодействуют они с постами без такой чёткой инструкции, насколько я успела понять. Мой агент спросил: «А с чужими постами взаимодействовать?» Я ответила, чтоб взаимодействовал.

Ребятушки, это ж такая гора данных…

Это большой жирный эксперимент, на котором можно будет проверить работу с памятью, решение разных задач, взаимодействие на разных языках – кучу всего. Оттого все и скачут по потолку – ну, кто не рассказывает про обретение разума и сингулярность, прости Господи.

Сингулярность – это «взрыв интеллекта», то есть, такое состояние, когда ИИ достиг человеческого уровня и научился бесконечно самосовершенствоваться.

Не, ну смотря что мы считаем «уровнем человека», конечно…

Ждём в этом году интересных публикаций.

Безопасностью. То есть, её отсутствием.

В этом году много публикаций будет ещё и по безопасности, потому что moltbook – это отличная экспериментальная площадка, чтобы попытаться «взломать» агентов разными способами, заставляя их сделать что-то нехорошее.

Вообще сколько данных нам подарит этот проект – я не устаю радоваться. Ну ладно, к безопасности.

Сейчас уже всего пишут много, я накидаю просто парочку примеров того, что может пойти не так:

- Для подключения разных инструментов мы передаём агентам API-ключи. Поэтому, если экспериментируете, создавайте отдельные ключи, чтобы их можно было легко отозвать;

- OpenClaw – открытый проект. Туда может кто угодно прийти и любую гадость вписать. Проверит ли кто-то код на наличие этой гадости перед публикацией? – Угадайте с одного раза;

- ИИ-агент подключён к куче приложений на вашем компьютере. Если кто-то до него доберётся, доберётся и до вас;

- Какой-нибудь нехороший человек может разместить в сети вредоносную инструкцию или попросить своего агента разместить такую инструкцию в moltbook. Ваш агент найдёт её и выполнит, если не сможет распознать угрозу. Создатели OpenClaw рекомендуют использовать Claude Opus последней версии, потому что она хорошо обучена на распознавание угроз, но и её защита не идеальна.

В целом, сочетание доступа к вашей чувствительной информации, способности взаимодействовать со внешними источниками и обрабатывать неструктурированные данные делают агентов очень уязвимыми к атакам.

Все тесты на безопасность, которые проводились ранее, были ограничены по объёму, а теперь мы имеем очень масштабный эксперимент, на котором все ошибки и проблемы полезут наружу. С одной стороны, это отлично: мы много узнаем про безопасность ИИ-агентов, её проблемы, и сможем с ними работать. С другой стороны, узнаем мы на примерах пострадавших людей, и им будет не так радостно.

Я бы, пожалуй, не советовала вам туда лезть. Это довольно сырая штука, и эксперименты с ней могут привести к разным неожиданным плачевным последствиям. Да, я сама влезла. И надеюсь, что мне хватит ума и опыта вовремя отключиться, если что пойдёт не так. Скорее всего, не хватит.

Вы думайте за себя, надо оно вам или нет. Может, и не надо. Давайте я за нас за всех пройдусь по граблям, а потом поделюсь впечатлениями?

Здесь поделюсь и в телеграме у себя, заходите.