Публичный ИИ начинает упираться в потолок

Модели такого уровня уже умеют собирать цепочки атак, искать слабые места в инфраструктуре, связывать уязвимости между собой.

Через 1-2 года такие модели станут намного мощнее в автоматизации взлома сложных систем. И это не только про критическую инфраструктуру (хотя это как раз-таки самое страшное), но и про криптокошельки, DeFi, личные аккаунты, домашние устройства, все то, что у обычного человека обычно защищено паролем.

Самые сильные модели будут жить в закрытом контуре. Публичный ИИ будет безопасным, отфильтрованным и частично тупее, чем то, что реально крутится у больших игроков. И это уже наступило прямо сейчас.

Страшно и то, что будут с ними делать государства, страшно и то, что будут делать те, кто получит к ним частный доступ или поднимет нечто-похожее своими силами. В общем-то обратного пути нет, наблюдаем.

Ну и вот свежая новость в тему:

Разведывательный альянс «Пять глаз» (Five Eyes), в который входят Австралия, Великобритания, Канада, Новая Зеландия и США, выпустил предупреждение об угрозе, которую несут новые ИИ-модели.

В заявлении, опубликованном 22 июня, альянс предупреждает, что уже в ближайшее время модели искусственного интеллекта «превзойдут текущие отраслевые ожидания» и коренным образом изменят ситуацию в сфере кибербезопасности. Новые ИИ-модели, с одной стороны, помогут улучшить киберзащиту, но одновременно «увеличат скорость, масштаб и целенаправленность киберугроз».

«Срок — не годы, а месяцы», — пишут авторы обращения, подчеркивая, что потенциальная угроза требует «ответа всей организации и всего общества».

Подписывайтесь на Telegram Точки над ИИ.