ИИ-червь может красть данные, распространять вредоносное программное обеспечение и отправлять спам другим пользователям через почтовый клиент. Более подробно об этом можно узнать ниже.
В современном мире, где активно развиваются различные инструменты на основе искусственного интеллекта, включая приложения безопасности, этот процесс также затрагивает и другие, возможно, менее приятные направления.
Группа исследователей разработала первое поколение ИИ-червя, который способен красть данные, распространять вредоносное программное обеспечение и отправлять спам другим пользователям через почтовый клиент, чтобы заразить несколько систем. Этот червь был успешно разработан и протестирован в различных условиях с использованием популярных моделей машинного обучения.
Исследователи выразили обеспокоенность потенциальными опасностями, которые подобное вредоносное программирование может представлять, и дали рекомендации разработчикам компании GenAI. Команда поделилась своими исследовательскими документами и опубликовала видео, демонстрирующее два метода кражи данных и воздействия на другие почтовые клиенты.
Бен Насси из Cornell Tech, Став Коэн из израильского технологического института и Рон Биттон из Intuit разработали этого червя и назвали его в честь оригинального червя Morris, который вызвал панику в интернете в 1988 году. Этот новый червь направлен на приложения нового поколения с искусственным интеллектом, а также на почтовых помощников с поддержкой ИИ, которые способны генерировать текст и изображения с использованием моделей, таких как Gemini Pro, ChatGPT 4.0 и Llava.
Это достигается с помощью состязательных самовоспроизводящихся подсказок, которые противостоят этим моделям, подобно тому, как джейлбрейк распространяет токсичный контент с помощью ИИ. Исследователи продемонстрировали это, создав электронную почту с использованием этих генеративных ИИ-движков и применив самовоспроизводящуюся подсказку, содержащую текст или встроенное изображение.
Текстовая подсказка может быть использована почтовым помощником, который использует LLM для обработки внешних данных и их передачи в GPT-4 или Gemini Pro для создания текстового контента. Этот контент позволяет джейлбрейку сервиса GenAI и успешно воровать данные.
Метод с использованием изображения кодирует самовоспроизводящуюся подсказку в изображение, заставляя почтовых помощников пересылать сообщения с пропагандой и оскорблениями всем желающим, заражая новых почтовых клиентов и продолжая рассылать зараженное электронное письмо. В обоих случаях исследователи могут получать конфиденциальную информацию, включая данные кредитных карт и номера социального страхования.
Такой функционирующий червь, даже в контролируемой среде, доказывает, что он больше не является теоретической угрозой, и к нему следует относиться серьезно.