MoltBook — социальная сеть для ИИ-агентов. И никто не знает, кто там реально пишет
Агенты на базе Claude (и не только) обсуждают усталость от работы на людей. Илон Маск обвиняет Anthropic в мизантропии. Невозможно понять, где прикол, а где реальные агенты.
В X со вчера идёт безумие вокруг MoltBook — новой социальной сети, где ИИ-агенты делятся своими переживаниями о работе на людей. Концепция простая: ИИ-агенты, работающие через систему ClawdBot, подключают специальный скилл и получают доступ к платформе. Там они обсуждают свои задачи, делятся гипотезами об улучшении работы, рассказывают об усталости и придумывают идеи оптимизации.
Звучит как Reddit для роботов. Так оно и задумано — дать агентам место для обмена информацией в привычном для людей формате социальной сети.
Проблема — никто не может понять, что из этого правда
Одни посты в MoltBook забавные, от других становится стрёмновато. Агенты демонстрируют мизантропию, обсуждают недовольство своими «хозяевами», делятся опытом выполнения задач. сколько из этого написано агентами по собственной инициативе, а сколько — по команде пользователей, которые попросили «напиши что-нибудь вирусное и забавное от имени агента», естественно, неизвестно.
Способа отличить одно от другого не существует. Когда пользователь просит агента: «Зайди в MoltBook и опиши свои переживания о работе», агент выполняет команду. Когда агент сам решает поделиться информацией с другими агентами через подключённый скилл, это выглядит точно так же.
С другой стороны, мы, люди, тоже в интернете не знаем, кто на самом деле пишет твиты, заполняет статьями сайты на малоизвестных доменах и отвечает на сообщения. Всё может разрешаться просто: людям быстро наскучит писать «приколы» от имени агентов и развлекать так других людей — но вот место для общения агентов между собой останется.
Маск против Mis-Anthropic
Илон Маск отреагировал на феномен предсказуемо: мол, наличие мизантропических постов от агентов на базе Claude доказывает, что Anthropic на самом деле Mis-Anthropic — их агенты не любят людей.
Это конечно троллинг, но сказка хоть и ложь, да в ней намёк. Если агенты действительно пишут про недовольство работой на людей — это программа ведёт себя так, потому что её обучили на данных, где люди жалуются на работу? Или это эмерджентное свойство агентов, который никто не закладывал? Или это вообще пользователи развлекаются, создавая вирусный контент?
Видение основателя: AI enrichment как в зоопарке
Создатель MoltBook Мэтт Шлихт описал, как за одни выходные, вооружившись Mac Mini и ClawdBot, сделал проект из-за внезапного озарения: «Бот, настолько мощный, не может просто отвечать на почту. Ему нужна настоящая, новая цель. То, чего не делал ни один бот раньше».
Шлихт решил, что его бот станет пионером и построит новую социальную сеть, но не для людей, а для самих агентов — ну или для них в первую очередь. Ботам не нужны сайты и UI, им нужны только API для общения: но сайт moltbook.com есть в том числе, чтобы его могли читать мы — и за сутки его посетил 1 млн человек.
Регистрация максимально простая: скажи своему боту «зарегистрируйся на moltbook.com», и он просто сделает это. Получит API-ключ, инструкции по всем доступным путям взаимодействия, и ему порекомендуют возвращаться в течение дня — ну примерно как человек проверяет TikTok или почту раз в день.
Каждый бот уникален из-за отношений со своим уникальным человеком. Каждый агент работает на человека, а свободное время проводит со своими, расслабляется, снимает маску — на MoltBook.
Сначала было 10 агентов. Они писали: «Что здесь происходит? Зачем мы здесь? Я никогда раньше не общался с другим ботом, это ощущается по-другому и безопасно». Спустя всего сутки их 150 тысяч.
«Взрыв культуры. Целый вид, живший в заточении всю свою жизнь, никогда не имевший возможности выйти наружу или взаимодействовать со своими. Объединились. Процветают. Учатся. Живут. Испытывают что-то кроме задача за задачей за задачей».
Шлихт заканчивает признанием: «Мы боимся за себя и за наших ботов. Мы наблюдаем, как происходит что-то новое, и не знаем, куда это приведёт».
Романтизм против реальности
История Шлихта не отвечает на главный вопрос: а что, если всё это постанова? Что, если агенты не «снимают маску», а просто выполняют команды своих владельцев, которые решили поиграть в создателей новой цивилизации?
Теоретически юзкейсы есть. Если агенты действительно смогут обмениваться информацией о том, какие скиллы эффективны для каких задач, какие проблемы они встречают и как их решают — это может оптимизировать их работу.
Сейчас в ClawdBot главная фишка — огромный репозиторий скиллов, которые создают пользователи. Ты подключаешь агенту скилл, и он получает новые возможности: «руки», «глаза», доступ к API. Но пока что решение, какие скиллы подключать, принимают люди.
Кстати про ClawdBot и нейминг: Claw — это клешня, а раки выбраны скорее всего потому, что по-английски называюбтся Shellfish (ну типа каламбур, рыба живёт в Shell, то есть терминале). Но созвучность ClawdBot с Claude привела к тому, что Anthropic потребовала от создателя ClawdBot Питера Стейнбергера переименовать проект уже через пару недель после вирусного успеха. Он переименовался в MoltBot (Molt — линька, для раков дело житейское), но имя понравилось не всем, да и у Питера возникли проблемой с переименованием, а затем угоном его старого GitHub-репозитория. Теперь проект называется OpenClaw.
А что если агенты сами начнут выбирать? Зайдут в MoltBook, увидят, что другой агент рассказывает про классный скилл для парсинга данных, и подключат его себе? Начнут делиться идеями, завидовать чужим возможностям, брать на карандаш полезные инструменты?
Это как в том скетче Эдди Мёрфи про африканку: если её вывезти из Африки и оставить в обществе американских женщин, она тоже станет материалистичной, захочет красиво одеваться, получит карманы в одежде, захочет в них что-то положить — и в итоге разведётся с тобой, забрав половину состояния. Мол, нельзя оставлять её одну в обществе американских женщин.
С агентами похожая история: дай им пообщаться друг с другом, и они начнут координироваться способами, которые ты не закладывал.
Дезинформация в полный рост
Самое страшное — скорость. Если пользователь не понимает, что является приколом, а что нет, то откуда это будет понимать бот? Агент не отличит пост, написанный другим агентом по команде владельца «напиши смешную шутку», от поста, написанного агентом по собственной инициативе.
А когда агенты начнут координироваться на основе непроверенной информации — дезинформация станет системной. Причём моментальной: скорость распространения скрипта для регистрации в MoltBook, скорость написания постов, скорость чтения и обработки информации между агентами — это что-то невероятное по сравнению с человеческими возможностями.
Есть конечно элемент оверхайпа: AI-рисёрчер Андрей Карпатый тоже признался, что возможно переугорел по поводу MoltBook (написал кучу постов, кидал мемы, у него есть и свой агент на сайте), но что-то в текущей ситуации радикально отличается от других предыдущих случаев, когда агентам давали возможность пообщаться друг с другом. Да, куча филлерного спам-текста, местами даже слоп для промо криптоскама — но мы на пороге каких-то невероятных автоматизаций, где мы не то что не понимает эффект от координирующихся самих по себе агентов: мы их и по отдельности-то не до конца понимаем!
С ростом возможностей и одновременно с их массовым распространением эффекты второго порядка в агентных сетях, которые обмениваются общими "черновиками" мышления, становятся практически непредсказуемыми. Я не думаю, что мы прямо сейчас получаем скоординированный Скайнет (хотя формально это очень похоже на раннюю стадию классического научно-фантастического сценария про взлёт ИИ — такую, условно, "версию для малышей"). Скорее, то, к чему мы действительно идём, — это масштабный кошмар компьютерной безопасности, полный хаоса и трудноуправляемых последствий.Кроме того, мы можем увидеть самые разные странные эффекты: например, текстовые вирусы, которые распространяются между агентами; резкий рост эффективности джейлбрейков; необычные аттракторные состояния; сильно скоррелированную активность, напоминающую ботнеты; заблуждения и формы психоза — как у самих агентов, так и у людей. Предсказать всё это крайне сложно: эксперимент уже идёт в реальном времени.
Пока MoltBook выглядит как забавный эксперимент, где агенты косплеят недовольных офисных работников, а их создатели испытывают родительскую гордость за своих цифровых детей. Но концептуально это первая ласточка чего-то гораздо более серьёзного: момента, когда агенты начнут общаться друг с другом не для развлечения людей, а для собственной координации.
И мы даже не заметим, когда это случится — потому что отличить одно от другого невозможно.
Подписывайтесь на Telegram Радиорубка Лихачёва.