ChatGPT теперь может сдать ваши чаты в полицию
OpenAI официально сообщила об изменении порядка обработки диалогов пользователей. Если в переписке с ChatGPT фиксируются угрозы причинения серьёзного вреда другим людям, такие сообщения могут быть направлены на проверку модераторам, а в случае подтверждения риска - переданы в правоохранительные органы.
Официальная позиция
Когда мы обнаруживаем пользователей, планирующих причинить вред другим, мы направляем их сообщения в специализированные каналы, где их проверяет небольшая команда, прошедшая обучение по нашим политикам использования и уполномоченная принимать меры, включая блокировку учётных записей. Если специалисты по проверке определят, что дело связано с непосредственной угрозой причинения серьёзного физического вреда другим, мы можем передать его в правоохранительные органы. В настоящее время мы не передаём дела о самоповреждении в правоохранительные органы, чтобы уважать конфиденциальность пользователей, учитывая уникальный конфиденциальный характер общения в ChatGPT.
При этом уточняется, что случаи, связанные с самоповреждением или суицидом, не направляются в полицию. Компания ссылается на необходимость соблюдения конфиденциальности в таких ситуациях.
Процедура обработки
- Переписки автоматически анализируются на предмет ключевых индикаторов угрозы.
- Подозрительные сообщения передаются модераторам.
- Если модератор считает угрозу достоверной и неотложной, информация может быть передана правоохранительным органам.
Соответственно, передача данных не носит массового характера и возможна только в исключительных случаях. Так говорят
Как встроить ИИ в процесс, рабочие промпты и кейсы - подписывайтесь на мой ТГ-канал