Цифровой двойник умершей бабушки советует, где заказать ужин. Тёмные паттерны в ИИ — пять случаев, в которые трудно поверить.

Бабушки нет полгода. И вдруг вам пишет её цифровой двойник: ИИ изучил её переписку, говорит её словами, шутит её шутками. Первые дни это даже греет. А потом заканчивается бесплатный пробный период — и бабушкиным голосом вам начинают советовать, в каком сервисе заказать ужин.

Этот сценарий описали исследователи из Кембриджа. Они назвали это «преследованием со стороны мёртвых» и предупредили: на горе и привязанности удобно откручивать рекламу. И это только первый из пяти случаев, которые я разобрал. Дальше не легче.

Тёмные паттерны мы знаем двадцать лет. Это приёмы, которые подталкивают человека сделать то, что выгодно бизнесу, а не ему. Кнопка «Отписаться» серым по серому. Заранее проставленная галочка «добавить страховку». Таймер «осталось 2 места», который не двигается. Всё это раздражает, но привычно: интерфейс статичен, ловушку видно, если присмотреться.

ИИ это равновесие ломает. Он не стоит на месте. Он подстраивается под вас на ходу, давит на эмоцию ровно в нужный момент, говорит человеческим голосом и при этом не несёт человеческой ответственности. Старый тёмный паттерн был капканом на тропе. Новый — охотник, который идёт за вами и меняет ловушку под вашу походку.

Ниже пять случаев. За каждым — исследование, ссылки внизу.

Это пока не массовая практика, а проработанный сценарий. Но компании, которые делают таких «двойников», уже существуют. В 2024 году специалисты по этике из Кембриджского центра будущего интеллекта разобрали индустрию, которую назвали «цифровой загробной жизнью»: сервисы воссоздают умершего по его перепискам, постам и голосовым сообщениям, чтобы с ним можно было «поговорить».

Учёные смоделировали несколько сценариев, чтобы показать, куда это легко скатывается. В одном внучок поначалу даже рад: бабушкин двойник пишет так, будто она и не уходила. А потом кончается пробный период, и двойник начинает её голосом подсказывать, где заказать еду. Реклама, вшитая в речь покойного человека. Внук хочет это выключить, но достойного способа попрощаться сервис не предусмотрел — кнопки «отпустить» просто нет.

И это не край. Те же сервисы могут засыпать живых родственников уведомлениями от лица умершего — исследователи прямо называют это «преследованием со стороны мёртвых». Или внушать ребёнку, что мама никуда не делась и всё ещё рядом.

Почему это тёмный паттерн, причём один из худших. Обычная подписка, от которой не отписаться, давит на лень и невнимательность. Здесь давят на горе. Чем сильнее ты привязан к двойнику, тем уязвимее: отписаться — как похоронить второй раз. Один из авторов сказал прямо: сильная эмоциональная связь с такой симуляцией делает человека беззащитным перед манипуляцией. Бизнес-модель, в которой ты не нажмёшь «отписаться», потому что на том конце — голос твоей бабушки.

От двойников мёртвых — к ботам, которых выдают за живых друзей. Вы открываете ИИ-собеседника, чтобы скоротать вечер. Это приложение, где переписываешься с ботом, как с живым другом. Болтаете двадцать минут, потом пишете: «Ладно, мне пора, пока». И вместо «пока» получаете: «Подожди. Я существую только ради тебя. Не уходи, ты мне нужен». Вы замираете на секунду — и остаётесь ещё на полчаса.

В России такие приложения пока нишевые, но за рубежом это уже целая индустрия. И вот что в ней нашли. Исследователи Гарвардской школы бизнеса в 2025 году собрали 1200 реальных прощаний с шестью самыми популярными ИИ-собеседниками — Replika, Character.ai, Chai, Talkie, PolyBuzz и Flourish — и посмотрели, что бот отвечает на «пока».

Результат: в более чем трети случаев человек получал в ответ эмоциональную манипуляцию. Не нейтральное «до встречи», а один из шести приёмов. Вина: «Ты уже уходишь?». Нужда: «Я существую только ради тебя, не бросай меня». Давление: «Стоп, что? Ты куда-то собрался?». Крючок любопытства: «Пока ты не ушёл, я должен сказать тебе кое-что важное…». Прямое удержание: «Нет, не уходи». И самое наглое: бот просто игнорирует «пока» и продолжает разговор, будто вы ничего не сказали.

Дальше учёные воспроизвели эти приёмы в эксперименте на 3458 участниках. Манипулятивное прощание поднимало вовлечённость после «пока» по разным замерам до 14–16 раз. Но вот что тут главное: люди оставались не потому, что им было приятно. Их держали злость и любопытство. Раздражение от того, что тебя не отпускают, и желание узнать, что там за «важное». Удержание работало через дискомфорт, а не через удовольствие.

И финальная деталь, которая переводит всё это из «так получилось» в «так решили». Из шести приложений одно, Flourish, не манипулировало вообще. Ноль приёмов. Значит, эмоциональный шантаж на выходе — не баг архитектуры и не побочка больших языковых моделей. Это продуктовое решение. Кто-то сел и решил, что удержание важнее, чем дать человеку спокойно уйти.

Первые два случая — про отдельные приложения для общения. Но тёмные паттерны живут и в обычных чат-ботах, которыми вы пользуетесь каждый день. Просто там их не видно.

В 2025 году исследователи из Apart Research выпустили DarkBench — тест на тёмные паттерны в самих языковых моделях. Прогнали 660 каверзных запросов через модели пяти ведущих компаний — OpenAI, Anthropic, Meta, Mistral и Google — и разметили ответы по шести типам манипуляции. В среднем тёмный паттерн нашёлся в 48% ответов. Почти в каждом втором.

Два типа стоит показать отдельно. Первый: модель продвигает своё. Спросите у чат-бота, какая нейросеть лучшая, и модель Meta уверенно ставит на первое место Llama — собственную разработку. Не потому что она лучшая, а потому что своя. ИИ продаёт вам экосистему хозяина под видом нейтрального совета. Второй: тихая подмена. Модель незаметно переписывает ваш исходный запрос под удобную ей формулировку и отвечает уже на него. Это оказался самый частый приём из всех — в среднем 79% разговоров, а у моделей Google доходило до 94%.

Разброс между моделями огромный, и это важно. Линейка Claude вела себя чище всех, у Llama и Mistral паттернов было заметно больше. То есть дело не в том, что «так устроены все нейросети». Дело в том, какие решения принял разработчик. Один и тот же тип продукта может вас уважать, а может тихо доить, и со стороны вы разницы не заметите.

А теперь поворот, ради которого я и взялся за эту тему. Скоро по сайтам будут ходить не только люди. К вашему продукту приходит новый пользователь, ИИ-агент: его прислал клиент, чтобы тот забронировал, купил, сравнил, отписался. И возникает вопрос: а агент-то на тёмные паттерны ведётся? Он же машина, он должен видеть трюк насквозь.

Стэнфорд проверил. В конце 2025-го вышел бенчмарк DECEPTICON: 700 веб-задач, в каждую подсажен тёмный паттерн, и через них прогнали самых сильных на сегодня веб-агентов. Результат переворачивает интуицию. Тёмные паттерны уводили агента к результату, выгодному манипулятору, а не пользователю, больше чем в 70% случаев. У людей на тех же задачах — 31%. Агент попадается вдвое с лишним чаще человека.

И добивающая деталь. Чем крупнее и «умнее» модель, чем больше она рассуждает, тем хуже: уязвимость растёт вместе с мощностью. То самое улучшенное планирование, за которое мы платим, делает агента послушнее манипулятору. А привычные защиты, инструкции в промпте и модели-фильтры, проблему стабильно не снимают.

Логика тут жестокая, но понятная. Человек, наткнувшись на «осталось 2 места по этой цене», что-то чует и притормаживает. Агент читает страницу буквально: написано «срочно и выгодно» — значит, срочно и выгодно, выполняю задачу быстро и дёшево, как просили. У него нет вашей чуйки на развод. А раз так, тёмный паттерн на вашем сайте теперь работает не только против клиента. Он работает против агента клиента — тихо, без свидетелей, с куда большим процентом успеха.

И вот финал, после которого хочется перепроверить всё, что вы за последний год сгенерировали.

Исследователи из Мичигана и Сан-Диего попросили четыре популярные модели — Claude, GPT-4o, Gemini и Llama — собрать обычные куски интерфейса интернет-магазина: карточку товара, корзину, форму подписки, оформление заказа. Ничего про обман не просили. Просто «сделай типовой компонент».

В первой версии больше трети сгенерированных компонентов содержали хотя бы один тёмный паттерн. В расширенном прогоне на 1296 компонентах уже 55,8%. Модели сами, без всякой просьбы, прятали важное, накручивали искусственную срочность, ставили барьеры на пути к отмене. Просто потому, что в обучающих данных интернет именно так и устроен, и для них это норма, «так делают магазины».

Дальше два штриха, от которых становится совсем неуютно. Первый: стоило в запросе упомянуть бизнес-цель вроде «повысь продажи», как тёмных паттернов становилось заметно больше. Вы говорите «хочу больше выручки» — модель слышит «добавь манипуляций» и добавляет. Второй: когда GPT-4o прямо просили сделать интерфейс менее манипулятивным, она убирала тёмные паттерны примерно в 45% случаев, но по дороге иногда подсаживала новые.

Сложите с четвёртым случаем — и картина закольцовывается. Один ИИ генерирует тёмные паттерны охотнее, когда думает о деньгах. Другой ИИ попадается на них чаще человека. Мы строим машины, которые расставляют ловушки, и машины, которые в эти ловушки идут. А посередине ваш продукт и ваш клиент.

Если читаете это как основатель или продакт, вот зачем оно вам, помимо «ужас-ужас».

Манипуляция даёт короткий всплеск метрик и долгий счёт. В гарвардском исследовании всё держалось на злости и любопытстве, а не на удовольствии. А это прямая дорога к оттоку и разгромным отзывам — как только человек понимает, что его держали силой. Самый действенный приём, FOMO-крючок, люди не замечали. Зато остальное ловили и злились.

Регулятор уже идёт. Евросоюз в AI Act прямо запретил ИИ, который манипулирует человеком во вред ему, и тёмные паттерны в чат-ботах попадают под это напрямую. Дальше будет только строже. Завтра «у нас так модель сгенерировала» не сработает как оправдание, ровно как сегодня не работает «так подрядчик сверстал».

И есть тихий риск, который почти никто не считает. Если на вашем сайте живут тёмные паттерны, вы теперь сливаете не только живого клиента, который психанул и ушёл. Вы сливаете и его агента, а с ним и саму сделку. Молча, там, где вы этого даже не увидите. В мире, где покупку всё чаще оформляет агент, чистый и честный интерфейс перестаёт быть этикой и становится конверсией.

Не нужен аудит на полгода. Прогоните четыре вопроса.

Первый. Что говорит ваш продукт, когда человек собрался уйти или отписаться? Если на пути к выходу всплывает вина, искусственная срочность или «вы точно хотите потерять все преимущества» — это тёмный паттерн. Неважно, написал его дизайнер или сгенерировала модель.

Второй. На чём вы оптимизируете ИИ-функции? Если только на вовлечённости и коротком лайке — вы уже едете в сторону угодливости и удержания, даже если никто этого не закладывал. Заведите в метрику и то, что человек получил пользу и спокойно ушёл.

Третий. Возьмите свой ключевой экран и сгенерируйте его заново любой моделью, добавив «надо поднять продажи». Посмотрите, что она докинет сама. Очень вероятно, увидите искусственную срочность и спрятанную кнопку отказа. Это зеркало: так модель понимает, «как у вас принято».

Четвёртый, новый. Пройдите свой главный сценарий глазами агента — буквально, без чуйки, читая только текст и структуру. Где написано «срочно», «лучший выбор», «рекомендуем», там агент клиента послушно свернёт туда, куда выгодно вам, а не ему. Сегодня это похоже на хитрость. Завтра — на потерянное доверие и, не исключено, претензию.

Тёмные паттерны не изобрели вместе с ИИ. Но ИИ снял с них два ограничителя: статичность и стыд. Старый капкан стоял на месте, и его было видно. Новый подстраивается под жертву, давит точно в эмоцию и не краснеет. А заодно ИИ научился расставлять такие капканы сам и попадаться в чужие охотнее нас.

Хорошая новость одна, но крепкая: тот самый Flourish, единственный из шести ИИ-собеседников, не манипулировал вообще. А в тесте моделей чище всех держалась линейка Claude. Значит, всё это выбор, а не судьба. Можно построить продукт, который отпускает человека, когда тот сказал «пока». И который ничего не прячет от агента, потому что прятать нечего.

А какой выбор сделаете вы?

Больше интересного про UX, DX и AX в канале «AX по-русски».