Ваш диалог с ChatGPT может прочитать сотрудник OpenAI

Когда рассказываешь чат-боту о работе, отношениях или личных проблемах, легко забыть, что у разговора могут быть другие читатели.

404 Media опубликовало расследование о Project Lily - внутренней программе OpenAI. По данным журналистов, сотни подрядчиков оценивают ответы ChatGPT на реальных пользовательских запросах. Иногда им доступны целые диалоги с чувствительными подробностями.

Задача проверяющих - улучшать ответы: например, учить бота меньше льстить пользователю и не изображать человека с собственными переживаниями.

Имена аккаунтов подрядчикам не показывают. OpenAI также старается удалять персональные данные, но признаёт: отдельные сведения могут проходить через фильтры.

Меня здесь цепляет простая вещь: мы общаемся с ИИ всё откровеннее, а ощущение приватного разговора легко принять за гарантию конфиденциальности.