"Засорение" ИИ: как генеративные нейросети парализуют работу госорганов и бизнеса в Великобритании

Разбираем на примере Великобритании, как бесплатный «карманный юрист» в смартфоне каждого гражданина ставит на колени бюрократическую машину государства и бизнеса и что с этим пытаются делать.

Создание корреспонденции, генерируемой искусственным интеллектом, занимает у пользователей считанные минуты, но у сотрудников-людей на её просмотр и обработку уходит огромное количество времени. Иллюстрация: Софи Виндер/The Guardian
Создание корреспонденции, генерируемой искусственным интеллектом, занимает у пользователей считанные минуты, но у сотрудников-людей на её просмотр и обработку уходит огромное количество времени. Иллюстрация: Софи Виндер/The Guardian

Разработчики нейросетей обещали, что ChatGPT, Claude, Copilot и Gemini освободят людей от рутины и повысят продуктивность. На практике это обернулось неожиданным побочным эффектом: государственные учреждения, суды, школы и бизнес столкнулись с валом сгенерированных ИИ жалоб, исков и запросов.

В англоязычной среде это явление уже получило название «AI clogging» (засорение ИИ) и «агентное наводнение».

В чем суть проблемы:

Раньше написание официальной жалобы, возражения против застройки района или судебного иска требовало времени, погружения в тему и базовой юридической грамотности. Теперь на это уходит пара минут: пользователь вводит промпт и получает формальный, юридически выверенный по стилю документ. Однако, если генерация текста занимает секунды, то у живых сотрудников на его чтение, проверку фактов и подготовку ответа уходят часы.

До появления искусственного интеллекта возражение против заявки на планирование застройки в местном органе власти занимало бы много времени и усилий. Фотография: Кристофер Томонд/The Guardian
До появления искусственного интеллекта возражение против заявки на планирование застройки в местном органе власти занимало бы много времени и усилий. Фотография: Кристофер Томонд/The Guardian

«Половина получаемых нами электронных писем — это те или иные формы искусственного интеллекта»

Холли Уикенс, старший специалист по работе с обращениями в офисе члена парламент
  • В офисах госорганов утверждают, что половина всех входящих писем написана с помощью ИИ. Профсоюзы фиксируют, что объем работы с обращениями граждан во многих приемных удвоился, а сотрудники работают на пределе возможностей.
  • Юристы в органах местного самоуправления утверждают, что, средняя длина жалобы выросла в 10 раз — с 2 страниц до 20. Рекордный документ, с которым столкнулись юристы, насчитывал около 200 страниц. При этом бюджеты муниципалитетов на обработку обращений не увеличились.
  • Транспортное управление Лондона в 2025–2026 годах получило рекордные 4769 запросов о предоставлении информации (на 5% больше прошлого пика) и отметило резкий рост апелляций, сгенерированных нейросетями.
Количество жалоб в местные органы власти резко возросло, в том числе по таким вопросам, как заявки на строительство, штрафы за парковку и вывоз мусора. Фотография: Fotomaton/Alamy
Количество жалоб в местные органы власти резко возросло, в том числе по таким вопросам, как заявки на строительство, штрафы за парковку и вывоз мусора. Фотография: Fotomaton/Alamy

"Каждый фунт, потраченный местными властями на рассмотрение жалоб, это фунт, который не тратится на что-то другое, поэтому важно взять ситуацию под контроль."

Лиза Гилмор, президент отделения сотрудников офисов депутатов

У всех теперь есть бесплатный адвокат — со склонностью к галлюцинациям.

Главная беда ИИ-обращений не только в их количестве, но и в качестве. Эксперты выделяют сразу несколько проблем, с которыми сталкиваются юристы и чиновники:

  1. Юридические галлюцинации. Нейросети превращают бытовую жалобу (например, на невывезенный мусор или штраф за парковку) в грозную правовую претензию. При этом ИИ может ссылаться на несуществующие законы или приводить судебные прецеденты из других стран — например, из Канады вместо Великобритании.
  2. Потеря сути. Эксперты по трудовым отношениям отмечают, что ИИ-жалобы сотрудников на работодателей выглядят «устрашающе и многословно», преувеличивают мелкие инциденты, но при этом часто забывают указать главное — чего именно хочет добиться заявитель.
  3. Иллюзия правоты. Склонность чат-ботов во всем соглашаться с пользователем и поддерживать его провоцирует людей идти в суд даже по бесперспективным делам. В Великобритании количество индивидуальных исков в трудовые суды выросло на 28% за квартал (до 14 000 дел), а число нерассмотренных дел достигло 70 000. Основатель одного из техностартапов рассказал, что оспаривание увольнения неэффективного сотрудника, подавшего иск с помощью ИИ, обойдется его компании примерно в 30 000 фунтов стерлингов.

При этом, по закону, госорганы обязаны рассматривать и отвечать даже на те запросы, которые явно написаны ботом и содержат фактические ошибки.

Транспортная компания Лондона получила рекордное количество запросов на предоставление информации в 2025-2026 годах. Фотография: Мартин Годвин/The Guardian
Транспортная компания Лондона получила рекордное количество запросов на предоставление информации в 2025-2026 годах. Фотография: Мартин Годвин/The Guardian

Как власти и бизнес пытаются защититься

Чтобы не утонуть в потоке машинного текста, организации ищут способы вернуть контроль над ситуацией:

• Ограничения на объем и шаблоны. Некоторые службы омбудсменов вводят строгие лимиты на количество слов в жалобах и заменяют свободную форму обращения на жесткие онлайн-анкеты.

• Отказ от авто-кАмпаний. Офисы депутатов перестают отвечать на массовые шаблонные рассылки через кнопку «отправить обращение», фокусируясь только на обращениях от реальных людей.

• Борьба с ИИ с помощью ИИ. Местные советы уже тестируют Microsoft Copilot и другие нейросети для подготовки черновиков ответов и анализа отчетов. Правда, эксперты опасаются, что это приведет к «диалогу машин с машинами» и полной потере человеческого фактора.

• Заградительные барьеры. Исследователи предлагают более радикальные меры: усложнить процесс подачи заявок, блокировать ботов на госсайтах или даже ввести небольшую плату за отправку запросов.

"Засорение" ИИ: как генеративные нейросети парализуют работу госорганов и бизнеса в Великобритании

"Государственным органам и компаниям, вероятно, придется использовать ту или иную форму ИИ, чтобы начать фильтровать информацию или установить более строгие правила относительно того, что они будут принимать, а что нет".

Технологический журналист Джейми Бартлетт

Резюме: если госорганы и компании не внедрят ИИ-фильтры и не ужесточат правила приема обращений, система управления просто не выдержит нагрузки и будет парализована.