AI-червь или новая угроза безопасности данных
Исследователи из Cornell Tech представили первого в своём роде вредоносного AI-червя, открыв новые горизонты (какие молодцы!) для потенциальных кибератак для связанных автономных экосистем искусственного интеллекта.
Что это за исследование?
Группа учёных представила червя, способного автоматически распространяться между генеративными AI-агентами, создавая потенциальную угрозу для безопасности данных и распространения спама, нарушая при этом некоторые меры безопасности в системах ChatGPT и Gemini.
Червь, названный Morris II в честь оригинального компьютерного червя 1988 года, способен атаковать почтовые помощники на базе AI, выдавая себя за реальных пользователей и крадя данные из электронных писем.
Демонстрация способностей червяка
Для демонстрации возможностей червя исследователи разработали почтовую систему, способную отправлять и принимать сообщения с помощью генеративного ИИ. Эта система интегрирована с ChatGPT, Gemini и открытой LLM с названием LLaVA. Специалисты выявили два способа использования этой системы: через текстовый запрос, который может самовоспроизводиться, и путем встраивания самовоспроизводящегося запроса в изображение.
Что дальше?
Исследователи обратились к Google и OpenAI с результатами своего исследования, подчеркнуули необходимость улучшения безопасности AI-агентов и предостерегли разработчиков.
Как вам новости?
Ещё больше важных и интересных новостей про AI на других ресурсах:
лучше уж хранить данные на отдельном носителе, без доступа к сети, это как в том анекдоте про предохранениние, который заканчивается "и никакого секса"))
Это не всегда удобно. Хотя более безопасно и лучше продублировать
Словно пол статьи прочитал, а конец украли.