Как ИИ опускает планку мошенничества

История продавца плюшевых игрушек Юй Цзинь стала символичной. Покупатель через неделю после получения товара подал заявку на «только возврат денег» и приложил фотографию «испорченного» игрушечного платья с трещинами, больше похожими на керамику. Магазин решил, что это умышленная порча, отказал. Но при вмешательстве платформы покупатель получил компенсацию 50 юаней.

Позже выяснилось: снимок — AI‑фейк. Инструменты анализа указали на неестественную текстуру и «физически невозможные» дефекты ткани. Однако платформа не приняла доводы продавца, деньги ушли покупателю и только после шума в соцсетях и СМИ сумма была возвращена за счёт самой площадки. Фактический результат:– покупатель получил почти даром товар и деньги;– продавец потратил время и нервы;– реальный нарушитель не понёс наказания.

Другой пример — продавец клавиатур. Покупатель через две недели прислал «доказательство» в виде якобы треснувших клавиш. Сравнение с прежним отзывом показало: композиция, фон, свет полностью совпадают, «повреждения» дорисованы ИИ. На этот раз платформа признала подлог и заблокировала возврат. Но факт важен: это был обычный студент, не «профессиональный» мошенник. Входной билет в мир фальсификаций стал равен любопытству и установке бесплатного приложения.

Массовое конструирование лжи

Электронная коммерция — лишь один фронт. С текстами, изображениями, видео и голосом ИИ расширил арсенал подделок до промышленных масштабов:

AI‑чёрный пиар. PR‑специалист Ци Юнь описывает «чёрные статьи», полностью выдуманные ИИ: фальшивые цитаты, несуществующие сотрудники, детализированные, но лживые сцены. Разоблачение требует дней: собирать документы, заверять печатями, подробно опровергать каждое «фактоподобное» утверждение. На создание такой статьи у злоумышленника уходит секунды, на её снятие — человеко‑дни.
Контент‑фабрики на стероидах. MCN‑агентства уже используют ИИ для производства тысяч «новостных» постов в день. Алгоритм собирает факты, достраивает «жареный» нарратив и штампует кликбейт; доходы от трафика достигают десятков тысяч юаней в сутки.
Deepfake‑скандалы. История XPeng: по соцсетям разошёлся низкопробный ролик, вмонтированный в кадры их стенда на автосалоне. Свет, окружение, ракурс — всё выглядело правдоподобно. Расследование показало: видео целиком сгенерировано ИИ, автор объяснил, что «просто хотел показать свои навыки».

Общий результат — резкое смещение баланса:– подделка стала дешёвой, быстрой и почти безрисковой;– защита — медленной, дорогой и выматывающей.

Платформы и жертвы: разные скорости

Механизмы модерации оказались в прошлом. Платформы по‑прежнему:

в лучшем случае ставят маленькие «AI‑label» на картинки и видео;
почти не маркируют текст, хотя именно в нём скрывается уязвимость;
требуют от жертв исчерпывающих доказательств — до сканов с печатями и «правильных» формулировок.

Так, чтобы снять AI‑чернуху, Ци Юнь был вынужден не только опровергать, но и фактически заново «доказывать реальность»: кто в компании реально занимает должность, какие документы публиковались на бирже и т.п. В итоге PR‑специалист всё больше занимается не содержательной коммуникацией, а игрой с алгоритмами площадок и юридической казуистикой. Не выдержав, он ушёл из профессии.

Для многих других такого выхода нет: бизнес и работа продолжаются, а каждое AI‑враньё оборачивается новой петлёй самооправданий и жалоб.

Этическая дыра между «можно» и «нельзя»

Самое тревожное в происходящем — не только рост мошенничества, но и размывание внутреннего барьера у обычного человека.

Когда:

одна подсказка модели превращает чистый товар в «доказательство брака»;
один клик генерирует «сенсацию» о компании;
один ролик создаёт ложный скандал вокруг бренда или человека;

закон и беззаконие отделяет буквально одна фраза в промпте. Технический порог исчез, на его место встало чистое моральное «хочу / не хочу».

Граница между правдой и ложью перестаёт определяться трудоёмкостью и риском — теперь она определяется лишь совестью конкретного пользователя. ИИ обнулил «трение» для подделок, а цена расплаты за них пока почти не изменилась. В этом дисбалансе и рождается новый, обыденный, повседневный обман, в котором участвуют не только профессиональные аферисты, но и самые обычные люди.