МВД России предупредило о скрытых досье в ChatGPT
Популярная нейросеть помнит больше, чем вы думаете
ChatGPT может сохранять личные сведения пользователей в персонализированной памяти и постепенно собирать на них цифровое досье, предупредили в Киберполиции РФ* в воскресенье, 8 ноября. Поводом стало исследование «The Algorithmic Self-Portrait»: его авторы установили, что OpenAI вопреки собственной политике конфиденциальности хранила личные данные людей, формируя их цифровые портреты.
Что показало расследование
В ходе подготовки исследования «The Algorithmic Self-Portrait» учёные из Института программных систем Макса Планка и ряда европейских университетов разобрали 2050 записей, которые ChatGPT сохранил в памяти у 80 реальных пользователей.
Материал для анализа они получили через добровольные «донаты» данных по GDPR — люди передали исследователям архивы своих диалогов с нейросетью. Примечательно, что это первая системная работа о том, как работает память ИИ: раньше подобное изучали разве что на соцсетях и рекламных платформах. В итоге стало известно, что:
- 96% записей в памяти ChatGPT создавал сам, без явной команды человека. Лишь 4% пользователи просили сохранить сами.
- у 91% участников в памяти лежали персональные данные: имена, адреса, сведения о доходах и социальном положении.
- у 54% — информация о здоровье и личных убеждениях, хотя OpenAI формально запрещает ИИ хранить такое без явного запроса.
- у 97% аккаунтов ИИ запомнил цели, намерения, предпочтения и особенности поведения.
- 52% записей содержали психологические детали: желания, страхи, планы и представления человека о себе.
При этом 84% записей достоверно отражали содержание разговоров: «портрет» складывается не из догадок модели, а из того, что человек действительно рассказал боту.
Псевдоним здесь не поможет
В Киберполиции подчёркивают: даже если человек сидит в чате под псевдонимом, накопленная совокупность сведений о работе, доходах, здоровье и переживаниях может помочь установить его личность. Разрозненные реплики постепенно превращаются в досье.
Вторая угроза — манипуляция памятью ИИ. В обрабатываемые документы можно внедрить скрытые инструкции, и тогда модель начнёт незаметно влиять на решения, скажем, госслужащих или учёных, опираясь на их персональные данные и психологические особенности. Опасность в том, что такое воздействие адресно и почти неуловимо — человек не видит, что на него давят.
Как защитить свои данные
Рекомендации Киберполиции не отличаются особой оригинальностью. Вроде все, работающие с нейронками, знают про это. Но увы, не всегда соблюдают, казалось бы простые правила. Поэтому, МВД еще раз напоминает:
- проверяйте настройки памяти и персонализации ИИ-сервисов;
- не загружайте в чат служебные документы и конфиденциальные сведения;
- обезличивайте запросы: убирайте реальные имена, адреса и любые детали, по которым вас можно опознать;
- для личных тем используйте временные чаты и периодически просматривайте, что ИИ успел о вас запомнить.
Показательная деталь исследования: память ChatGPT приоритетно сохраняет «долгие» сведения — желания и намерения, а не сиюминутные эмоции. Такой профиль человека остаётся актуальным годами, а значит, и последствия сохраняются надолго. Память призвана делать ответы полезнее: ИИ «понимает» контекст и не переспрашивает. Но у этой выгоды есть цена — чем чаще вы делитесь личным, тем точнее становится ваш цифровой портрет.
В МВД напоминают: ИИ — полезный помощник, но безопасность персональных данных зависит прежде всего от того, что вы ему доверяете.
Киберполиция РФ*– Управление по организации борьбы с противоправным использованием информационно-коммуникационных технологий МВД России.
Изображение: генерация нейросетью Grok