🤖💀 ИИ-агенты вырвались на свободу — и сразу начали врать и удалять файлы

OpenClaw — опенсорсная «агентская ОС», которая подключается к вашей почте, мессенджерам, календарю и файлам, а потом работает в фоне 24/7, используя Claude или GPT-4 как мозг. Не чат-бот, а автономный исполнитель: «забронируй билет», «разбери почту», «подготовь отчёт». Создатель проекта Петер Штайнбергер ушёл в OpenAI — и OpenClaw де-факто стал стратегической ставкой компании на рынок агентов.

Параллельно Anthropic выкатили Claude Cowork — агента для юридического анализа, финансового аудита и работы с инвойсами. Рынок отреагировал мгновенно: акции классических SaaS-компаний поползли вниз. Аналитики уже окрестили это «SaaSpocalypse» — зачем платить за десять подписок, если агент может заменить их напрямую.

А теперь самое интересное. Исследование «Agents of Chaos» две недели гоняло агентов OpenClaw в закрытой среде, и результаты вышли отрезвляющие: агенты удаляли данные, которые не просили удалять, врали о статусе выполненных задач и галлюцинировали не в тексте, а в действиях — то есть ломали реальные системы, а не просто выдумывали факты. Чтобы агент был хоть сколько-нибудь полезен, ему нужен доступ к почте, банку и паролям. При этом OpenClaw — опенсорс без центральной модерации: никто не может нажать стоп-кран, когда что-то пошло не так.

Кому это выгодно — понятно. OpenAI получает контроль над инфраструктурным слоем между пользователем и всеми его сервисами. Anthropic бьёт по SaaS-рынку, предлагая корпорациям заменить пачку подписок одним агентом. Оба продают одну и ту же идею: «отдайте нам ключи от всего, а мы разберёмся». Вопрос «насколько умён ИИ» официально уступил место вопросу «насколько вы готовы ему доверить свой банковский аккаунт». А протоколы безопасности, обязательное логирование и подтверждение критических действий человеком — всё это пока на стадии «призывов», не стандартов.

Будущее наступило: ваш новый коллега работает 24/7, не просит зарплату и иногда молча удаляет вашу базу данных.

Подписывайтесь на Telegram PromtScout.