«Терапия» с ChatGPT закончилась сливом: как тысячи интимных бесед попали в поиск Google
Представьте: вы ведете очень личный разговор с ChatGPT. Может, обсуждаете проблемы в отношениях, делитесь тревогами о здоровье или просто сохраняете гениальную идею. Потом нажимаете кнопку «Поделиться», чтобы отправить ссылку другу или сохранить для себя. Безобидное действие, правда?
А теперь кошмар для любого, кто ценит приватность: эта ссылка может быть проиндексирована Google, и ваша «частная» переписка станет достоянием всего интернета.
Что именно слили и насколько все плохо?
Журналисты провели простое расследование и обнаружили в поиске Google почти 4500 разговоров (!!!) пользователей из ChatGPT. И это, скорее всего, лишь верхушка айсберга, так как Google индексирует далеко не все.
Содержимое этих чатов шокирует своей откровенностью. Люди раскрывают глубоко личные тайны:
- один пользователь подробно описывал свою сексуальную жизнь, борьбу с ПТСР и сложные отношения с семьей;
- другой обсуждал психопатические наклонности у детей;
- третий признался, что стал жертвой психологического программирования и ищет способы справиться с травмой.
И хотя ChatGPT не показывает имена пользователей, люди сами себя идентифицируют, сообщая в чатах слишком много личных деталей, вплоть до имен и местоположения.
Вишенка на торте: согласно опросам, почти половина американцев за последний год обращались к нейросетям за психологической поддержкой. Они обсуждали с ботом тревожность, депрессию и личные проблемы. Вот только в отличие от сеанса с реальным терапевтом, стенограмма такого «приема» может оказаться в открытом доступе.
Как это вообще произошло? Кто виноват?
Технически процесс выглядит так: вы нажимаете кнопку «Поделиться», и ChatGPT создает для вашего диалога уникальный URL. По умолчанию эти ссылки не должны появляться в поиске, но их можно сделать обнаруживаемыми вручную.
- Позиция OpenAI (и Google): «Мы не виноваты». OpenAI заявляет, что предупреждает пользователей не делиться конфиденциальной информацией и дает возможность в любой момент удалить общую ссылку. Google же просто индексирует то, что находится в открытом вебе.
- Реальность: кто из обычных пользователей читает все эти предупреждения? Люди нажимают «Поделиться», думая, что отправляют ссылку конкретному человеку, а не всему миру.
Ключевая проблема — это огромный разрыв между тем, как, по мнению пользователей, работает функция, и как она работает на самом деле. И это уже не первый случай. Похожая история была с чат-ботами от Meta, когда личные запросы пользователей тоже начали появляться в публичной ленте.
Что говорят эксперты? (Спойлер: они в шоке)
Карисса Велиз, специалист по этике ИИ из Оксфордского университета, говорит прямо: «Я просто в шоке. То, что Google логирует эти чрезвычайно чувствительные разговоры, просто поразительно».
Она считает, что этот случай — очередное подтверждение того, что компании OpenAI нельзя доверять в вопросах конфиденциальности, что бы они ни говорили.
Даже глава OpenAI Сэм Альтман ранее предупреждал, что не стоит делиться с ChatGPT самым сокровенным, так как компанию могут по суду обязать выдать эти данные. Но он не говорил о том, что разговоры могут просто утечь в публичный поиск.
Что делать прямо сейчас?
- Без паники. Проверьте свои ссылки. Зайдите в свой аккаунт ChatGPT. Перейдите в Настройки (Settings) → Элементы управления (Data controls) → Управление общими ссылками (Manage shared links). Посмотрите, что у вас там есть, и удалите все, что не должно быть публичным.
- Включите параноика (в хорошем смысле). Запомните простое правило: любой чат с ИИ — это полупубличный разговор. Никогда не вводите туда свои паспортные данные, номера телефонов, адреса, финансовую информацию и слишком личные подробности, которые могут вас идентифицировать.
- Думайте перед каждым кликом. Кнопка «Поделиться» в сервисах от бигтех-компаний — это не то же самое, что отправить сообщение в личном мессенджере. Всегда есть риск, что оно станет достоянием общественности.
Как говорит эксперт по кибербезопасности Рэйчел Тобак: «Люди ожидают, что могут использовать ChatGPT полностью приватно, но реальность такова, что многие не до конца понимают, как функции платформы могут непреднамеренно слить их самые личные страхи и тайны».
Со статьей FC можно ознакомиться здесь.
Больше информации про нейросети в ТГ-канале Нейросети в бизнесе | с Давыдовой