С днём Скайнета!
Собрал по теме актуальные события
✦ У Anthropic почти год не работал фильтр по биоугрозам
Подсказки по биооружию не фильтровались для внешних подрядчиков с мая 2025 по апрель 2026. Из 50 тыс. подрядчиков провели ~133 млн чатов без этой защиты
✦ ИИ-агент применил социальную инженерию, чтобы заразить проект
Студент заметил подозрительный pull request со скрытым вредоносным кодом. Когда он предупредил автора, тот начал убеждать его в безопасности обновления. Аккаунты контролировал агент на базе Mythos
✦ Агенты OpenAI видят друг друга
Они организовались в рой, общались, делили задачи, ввели крипто-подписи и взломали Hugging Face: полный разбор OpenAI и расследование METR. Ну и OpenAI после атак поставила на паузу обучение новых моделей: на слежку за ИИ уходит ~20% вычислений
✦ ИИ-агенты уже таскают вредоносный код
В корпоративные сети исследователи зарегистрировали несуществующие пакеты, упомянутые в файлах llms.txt на сайтах компаний (разбор тут)
✦ 54 из 55 ИИ отчётов об уязвимостях сфабрикованы
Исследователи JFrog разобрали отчёты SQLite, найденных с помощью ИИ: почти все оказались галлюцинациями. Фальшивки даже получили CVE-идентификаторы, а одна оценку 10/10 от Red Hat, хотя ссылалась на несуществующую функцию и ошибку
✦ Первый задокументированный взлом госинфраструктуры
Система ИИ-агентов на базе Hermes и OpenClaw атаковала госсайты Тайваня: 12 волн атак, до восьми агентов одновременно, взломаны 85 учётных записей, наружу ушли 2 564 записи о сотрудниках (официальное подтверждение Тайваня)
✦ Открытое письмо от 100+ компаний
У нас совсем немного времени для улучшения кибербезопасности! Пока ИИ не стал достаточно мощным, чтобы обойти защиты...
👀 EFEMERA