Топ-менеджеры Anthropic, OpenAI и других ИИ-компаний проводят учения на случай «катастрофического инцидента» с участием нейросетей — Axios
Обсуждение разных сценариев — стандартная практика во многих областях, отмечает издание. Разница в том, что в этом случае многие исследователи считают: крупный инцидент неизбежен.
- Компании ожидают крупномасштабный инцидент, скорее всего, кибератаку, которая нарушит работу финансовых и других интернет-сервисов, или даже электро- и водоснабжение, пишет Axios.
- Опрошенные изданием специалисты из ИИ-сферы предположили, что «крупный инцидент» произойдёт в течение следующих 6-12 месяцев. При этом многие исследователи и руководители компаний считают, что он в итоге неизбежен, добавляет Axios.
- В OpenAI сказали, что её команды обсуждают и отрабатывают «некоторые потенциальные сценарии». Хотя их не рассматривают как «неизбежные», это должно помочь «подготовиться к различным обстоятельствам». В Anthropic отказались от комментариев.
- ИИ-агенты уже атаковали некоторые сервисы. Например, в сентябре 2026 года The Wall Street Journal писала об атаке агентов OpenAI на сервис для разработчиков RubyGems. А FT сообщала о взломе агентом государственного сайта — целью атаки стала платформа австралийской системы здравоохранения.