«ИИ-агенты превращаются в оружие»: Anthropic рассказала о случаях использования Claude для взломов и вымогательств
Компания называет новое направление в киберпреступности «вайб-хакингом» — ИИ снизил барьеры и оптимизировал деятельность злоумышленников.
- Claude и другие ИИ-агенты и чат-боты, вероятно, уже используются для киберпреступлений, говорится в отчёте Anthropic. В компании рассказали о нескольких выявленных ей случаях мошенничества.
- В первом кейсе преступники использовали Claude Code для взлома — пострадали как минимум 17 организаций в разных странах, включая госорганы, медицинские и религиозные учреждения, а также службы экстренной помощи.
- ИИ-агент одновременно выступал в качестве «технического консультанта и активного оператора». Claude также использовали для написания «психологически выверенных вымогательских требований» и оценки стоимости украденных данных. По словам компании, «вручную» осуществить такое «гораздо сложнее».
- Один из пользователей с помощью ИИ-агента для разработки создавал вирусы-вымогатели, затем продавал их другим киберпреступникам по цене от $400 до $1200.
- В другом кейсе Claude «помогал» северокорейским специалистам обманом устраиваться на удалённую работу в американские компании из списка Fortune 500. Раньше КНДР использовала людей с высшим образованием, опытом в ИТ и базовым знанием английского языка — теперь благодаря ИИ работу могут получить те, кто не умеет писать код и не понимает английский. Однако подробности схемы компания не раскрыла.
- В ещё одном случае злоумышленники с использованием ИИ создали Telegram-бота для «романтического мошенничества». Он составлял «убедительные и комплиментарные» сообщения, которые позволяли неанглоязычным преступникам знакомиться в интернете с жертвами из США, Японии и Южной Кореи для последующего вымогательства денег. По словам Anthropic, аудитория бота достигала 10 тысяч человек.
- Anthropic признаёт, что развитие ИИ снизило порог вхождения в киберпреступность. Компания разрабатывает инструменты обнаружения злоупотреблений, блокирует недобросовестных пользователей и передаёт информацию в правоохранительные органы. Однако злоумышленники находят способы обойти меры безопасности.
17 комментариев