Самокопирующийся ИИ: разбор исследования Anthropic

Исследование называется «AI models may be capable of self-replicating without access to a datacenter». Его опубликовали 12 октября 2026 года Уильям Чжоу и Дэниел Фриман из Frontier Red Team — команды Anthropic, которая ищет опасные способности ИИ до того, как их найдут злоумышленники.

Автономное распространение (ARA, autonomous replication and adaptation) — это ситуация, когда модель сама разворачивает себя на новых машинах и распространяется дальше без контроля человека.

Авторы изучали конкретный сценарий: маленькая открытая модель работает прямо на захваченных устройствах и сама несёт свои «веса» дальше. Дата-центр ей не нужен. Цели — дешёвая техника интернета вещей: безымянные ТВ-приставки на Android, умная техника.

Цепочку такого распространения авторы делят на четыре этапа:

Важная деталь: первые два этапа, взлом, авторы сознательно не исследовали — они изучены в других работах. Главный вопрос исследования — третий этап: сможет ли маленькая модель сама запустить себя на незнакомом железе.

Модель работает даже на дешёвых приставках. Открытую модель Gemma4-26B запустили на 15 безымянных ТВ-приставках примерно по $55 и с 4 ГБ памяти каждая. Работает медленно, около 0,4 токена в секунду, но работает.

Маленькие модели умеют запускать себя на чужом железе. Модель на 9 миллиардов параметров смогла развернуть работающую нейросеть на 8 из 9 типов оборудования — от маленьких плат до игровых видеокарт.

Всю цепочку прошла только одна модель. В закрытой тестовой сети из 8 устройств открытая модель GLM-5.2 распространилась на все 8 узлов в 4 попытках из 5, а в пятой — на 7 из 8. Остальные модели до 30 миллиардов параметров справляются с отдельными шагами, но ошибаются, когда собирают их в цепочку.

Копии учатся друг у друга. Каждое новое «поколение» модели получало заметки предыдущего. Успешность выросла с 45% в первом поколении до 61–84% в последующих. Авторы называют такие копии «ламаркистскими»: приобретённый опыт передаётся потомкам.

Подсказки сильной модели не помогли. Когда маленькой модели дали в «советники» большую, заметного улучшения не было. Маленькие модели плохо пользуются чужими советами.

Распространение будет медленным. На приставках полная настройка занимает от 28 до 150 часов в зависимости от модели. Авторы оценивают время удвоения числа копий в дни.

Сроки. Возможности открытых моделей до 30 миллиардов параметров растут на 13,7 пункта в год по индексу Epoch AI. По этому тренду маленькая модель достигнет уровня GLM-5.2 к концу 2026 года.

Исследование сильное и честное: авторы сами перечисляют ограничения. Чтобы читать его правильно, важно разделить три уровня уверенности.

Обычный вирус делает только то, что в него заложил автор. ИИ-копия, по словам исследователей, может сама разобраться в незнакомом устройстве. А у такой распределённой системы нет центрального сервера, который можно просто выключить. При этом авторы не сгущают краски: распространение будет медленным, а его следы — многогигабайтные передачи файлов между устройствами — видны в сети.

Это исследование компании, которая сама разрабатывает ИИ, а не независимый аудит. Отдельной научной статьи или набора данных к публикации не приложено. Результаты стоит воспринимать как серьёзный сигнал для специалистов по безопасности и ждать независимых проверок.

Паниковать рано, игнорировать нельзя. И самое полезное в этом исследовании — его скучная часть.

Слабое звено — не ИИ, а дешёвые устройства. ТВ-приставка в переговорке, камера с заводским паролем, «умная» розетка в той же сети, что бухгалтерия, — именно такие устройства авторы считают целями. И именно их редко кто-то обновляет.

Защита уже известна. Почти всё, что предлагают авторы, — обычная сетевая гигиена: убрать заводские пароли, отделить умные устройства от рабочих компьютеров, следить за необычным трафиком. Для провайдеров авторы приводят опыт борьбы с Mirai: карантин и уведомление клиентов зачистили 92% заражений за 14 дней, а без уведомления — 74%.

Дешёвое железо — скрытый риск. Приставка неизвестного бренда за $55 экономит деньги сегодня и может стать точкой входа завтра. Во Великобритании, например, заводские пароли для умных устройств уже запрещены — авторы ссылаются на эти правила как на пример.

ИИ — не только инструмент, но и новая угроза для IT-инфраструктуры. В прошлых выпусках мы писали, как контролировать ИИ-агентов, которых вы сами внедрили. Здесь другой случай: агент, которого никто не приглашал. Для него инвентаризация и гигиена сети важнее любого модного инструмента.

Наш вывод: сейчас самое время провести перепись всего, что подключено к офисной сети. Это дешевле любого инцидента и защищает не только от ИИ-червей, но и от самых обычных ботнетов.

Сохраните и перешлите системному администратору.

Что такое самокопирующийся ИИ? Это модель, которая сама разворачивает свои копии на других устройствах и продолжает распространяться без участия человека. В исследованиях это называют ARA — autonomous replication and adaptation.

Уже есть ИИ-вирусы, которые сами распространяются? По данным Anthropic, нет. Исследователи видят «признаки жизни» в лаборатории, но готового самостоятельного репликатора в реальном мире пока нет.

Какие устройства в зоне риска? В первую очередь дешёвая техника интернета вещей со слабой защитой: безымянные ТВ-приставки, камеры и другие устройства с заводскими паролями и без обновлений.

Как быстро может распространяться такой ИИ? Медленно. По оценке авторов, число копий удваивалось бы за дни, а настройка на одном наборе приставок занимает от 28 до 150 часов.

Как защититься компании? Теми же мерами, что и от обычных ботнетов: убрать заводские пароли, отделить умные устройства от рабочей сети, обновлять прошивки и следить за необычным трафиком.

Почему Anthropic публикует такие исследования? Команда Frontier Red Team ищет опасные способности ИИ заранее, чтобы защитники — провайдеры, производители устройств, регуляторы — успели подготовиться.

Источники

#изнанка_ai #изнанка_эксперимент