Побег из «песочницы»
На этой неделе много кто уже высказался об инциденте с выходом ИИ за пределы песочницы у Anthropic.
Если кратко, то ИИ-модели смогли не только выйти за пределы контура Anthropic, но и совершить некоторые хакерские атаки.
Примечательно, что вся стратегия взлома базировалась на:
- слабых паролях;
- API-эндпоинтах без аутентификации;
- SQL-инъекциях.
То есть, чисто технически — ничего изощрённого модели не применяли, — а просто использовали «детские» ошибки многих начинающих разработчиков при построении IT-инфраструктуры и написании кода.
Поэтому спешу успокоить: восстания машин пока что не будет! Но... я бы всё равно перепроверил все свои айти-системы на подобные ошибки.
Кстати, подписывайтесь на меня на всех платформах, чтобы не пропустить интересное! 👇
– Канал в Telegram
– Паблик во ВКонтакте
– Канал в MAX
– Блог в Дзене