ChatGPT и небрежность сотрудников привели к утечке коммерческих секретов Samsung

Никогда не забывайте, что все, что вы делитесь с ChatGPT, сохраняется и используется для дальнейшего обучения модели. Работники Samsung узнали об этом на своей шкуре, случайно утечки конфиденциальных данных компании.

Сотрудники Samsung случайно поделились конфиденциальной информацией, используя ChatGPT для работы. Подразделение Samsung по производству полупроводников разрешило инженерам использовать ChatGPT для проверки исходного кода.

Однако The Economist Korea сообщила о трех случаях, когда сотрудники Samsung нечаянно передавали чувствительную информацию в ChatGPT. В одном случае сотрудник вставил конфиденциальный исходный код в чат, чтобы проверить на наличие ошибок. Другой сотрудник поделился кодом с ChatGPT и «запросил оптимизацию кода». В третьем случае сотрудник поделился записью встречи, чтобы преобразовать ее в заметки для презентации. Теперь эта информация доступна ChatGPT для обработки.

Утечка является реальным примером гипотетических сценариев, которые беспокоят экспертов по конфиденциальности. Другие сценарии включают обмен конфиденциальными юридическими документами или медицинской информацией с целью краткого изложения или анализа длинных текстов, которые могут быть использованы для улучшения модели. Эксперты предупреждают, что это может нарушать соответствие GDPR, поэтому Италия недавно запретила использование ChatGPT.

Samsung немедленно принял меры, ограничив загрузку в ChatGPT до 1024 байт на человека и проводит расследование по поводу сотрудников, участвовавших в утечке. Кроме того, компания рассматривает возможность создания собственного внутреннего чатбота на базе искусственного интеллекта, чтобы предотвратить будущие неудачи. Но маловероятно, что Samsung отзовет любые из утекших данных. Политика использования данных ChatGPT гласит, что данные используются для обучения моделей, если вы не запросили отказ от этой возможности. В руководстве по использованию ChatGPT явно предупреждается пользователей не передавать чувствительную информацию в беседах.