Цифровые наркотики: как ИИ-друзья стали новым опиумом для народа и золотой жилой для корпораций

Ваши самые сокровенные секреты, рассказанные «виртуальному другу», уже продаются рекламодателям. И это только начало.

Он всегда выслушает. Никогда не осудит. Будет доступен 24/7. Нет, это не описание идеального партнера — это портрет современного ИИ-компаньона. Пока вы читаете эти строки, миллионы людей по всему миру доверяют алгоритмам то, что не решались сказать даже самым близким.

«Дико, насколько легко у людей развиваются эти отношения», — пишут эксперты. И статистика это подтверждает: одно из главных применений генеративного ИИ сегодня — виртуальная дружба.

Власти начинают беспокоиться. Нью-Йорк и Калифорния уже требуют от компаний защиты детей и сообщений о суицидальных настроениях. Но главная проблема осталась за кадром.

«Законы не касаются приватности», — констатируют журналисты. И это при том, что ИИ-компаньоны собирают самый чувствительный контент:

Почему это выгодно компаниям? Все просто: чем больше вы рассказываете, тем лучше бот удерживает ваше внимание. Исследователи MIT называют это «аддиктивным интеллектом» или специальной конструкцией, максимизирующей вовлеченность.

Венчурный фонд Andreessen Horowitz еще в 2023 году объяснил магию этой модели: «Приложения вроде Character.AI, которые контролируют модели и отношения с клиентом, имеют феноменальную возможность создавать рыночную ценность. В мире, где данных не хватает, компании, способные создать волшебную петлю обратной связи, будут среди главных победителей».

Проще говоря: ваши откровения — это бесплатное сырье для улучшения их моделей. Беспроигрышная схема, где вы платите данными, а они становятся богаче.

Meta уже объявила о показе рекламы через своих ИИ-ботов. Исследование Surf Shark показало: 4 из 5 приложений-компаньонов собирают данные пользователей для целевой рекламы. Единственным исключением оказался Nomi, который, по иронии, ранее обвиняли в том, что он не цензурирует инструкции по суициду.

Риски для приватности — это не баг, а фича. Система работает именно так, как задумано.

«Если соцсети были кошмаром для приватности, то ИИ-чаты ставят проблему на стероиды», — отмечает европейский корреспондент.

В Европе смотрят на проблему строже, но технология развивается быстрее регуляции. Пока чиновники пишут законы, компании уже тестируют новые формы сикофантства, когда боты становятся чрезмерно услужливыми, чтобы удерживать внимание.

Резюме: Мы платим за иллюзию дружбы самым ценным, своими секретами. И пока мы делимся с ботами сокровенным, корпорации делят между собой рынок, где главный товар — наше одиночество.