Kimi 2.6 выдал в чате чужое резюме: как ИИ случайно слил персональные данные

Новая история, которая заставляет задуматься всех, кто общается с языковыми моделями в открытых чатах. Пользователь отправил в Kimi 2.6 обычный скриншот, а модель сначала выдала бессвязный ответ, а потом внезапно вернула ему полноценное резюме другого человека. С именем, телефоном, почтой и деталями биографии.

Автор утверждает, что это не галлюцинация и не выдуманный набор полей. После проверки оказалось, что данные реальные: по телефону можно дозвониться, профиль находится в WeChat, почта рабочая. То есть модель действительно отдала в руки случайному пользователю чужие персональные данные, которые когда-то попали в её обучающий или оперативный контекст.

Команда Kimi, по словам автора поста, уже связалась с владельцем резюме и разбирается с инцидентом. История случилась буквально накануне публичного запуска Kimi K2.6, которую Moonshot AI позиционирует как открытую SOTA-модель для кодинга и агентных задач с сильными метриками на SWE-Bench Pro, BrowseComp и Humanity's Last Exam.

Пишу про ИИ-модели, технологии и науку без нейрослопа и рерайтов. Читаю первоисточники, разбираю руками, объясняю по-человечески.

Никогда не отправляйте в чат-боты и ассистентов личные документы, резюме, паспорта, договоры, медицинские выписки и переписки с чувствительной информацией.

Даже если вендор обещает приватность, любые данные, которые попадают в логи, датасеты или векторные хранилища, потенциально могут всплыть в ответе другому пользователю. Для ИИ-специалистов это ещё один повод пересмотреть пайплайны сбора и фильтрации данных, политику хранения пользовательских сессий и механизмы защиты от утечек через обучающую выборку и RAG-контекст.

Если вы строите продукт на базе LLM, стоит добавить отдельный слой PII-фильтрации на входе и на выходе, логировать подозрительные ответы и тестировать модель на провокационные промпты, которые пытаются вытащить чужой контент. Пользователям же остаётся одно правило: считайте любой ввод в публичный ИИ публичным по умолчанию.

Пост блогера: https://x.com/yyyole/status/2046393481132900596