"Засорение" ИИ: как генеративные нейросети парализуют работу госорганов и бизнеса в Великобритании
Разбираем на примере Великобритании, как бесплатный «карманный юрист» в смартфоне каждого гражданина ставит на колени бюрократическую машину государства и бизнеса и что с этим пытаются делать.
Разработчики нейросетей обещали, что ChatGPT, Claude, Copilot и Gemini освободят людей от рутины и повысят продуктивность. На практике это обернулось неожиданным побочным эффектом: государственные учреждения, суды, школы и бизнес столкнулись с валом сгенерированных ИИ жалоб, исков и запросов.
В англоязычной среде это явление уже получило название «AI clogging» (засорение ИИ) и «агентное наводнение».
В чем суть проблемы:
Раньше написание официальной жалобы, возражения против застройки района или судебного иска требовало времени, погружения в тему и базовой юридической грамотности. Теперь на это уходит пара минут: пользователь вводит промпт и получает формальный, юридически выверенный по стилю документ. Однако, если генерация текста занимает секунды, то у живых сотрудников на его чтение, проверку фактов и подготовку ответа уходят часы.
«Половина получаемых нами электронных писем — это те или иные формы искусственного интеллекта»
- В офисах госорганов утверждают, что половина всех входящих писем написана с помощью ИИ. Профсоюзы фиксируют, что объем работы с обращениями граждан во многих приемных удвоился, а сотрудники работают на пределе возможностей.
- Юристы в органах местного самоуправления утверждают, что, средняя длина жалобы выросла в 10 раз — с 2 страниц до 20. Рекордный документ, с которым столкнулись юристы, насчитывал около 200 страниц. При этом бюджеты муниципалитетов на обработку обращений не увеличились.
- Транспортное управление Лондона в 2025–2026 годах получило рекордные 4769 запросов о предоставлении информации (на 5% больше прошлого пика) и отметило резкий рост апелляций, сгенерированных нейросетями.
"Каждый фунт, потраченный местными властями на рассмотрение жалоб, это фунт, который не тратится на что-то другое, поэтому важно взять ситуацию под контроль."
У всех теперь есть бесплатный адвокат — со склонностью к галлюцинациям.
Главная беда ИИ-обращений не только в их количестве, но и в качестве. Эксперты выделяют сразу несколько проблем, с которыми сталкиваются юристы и чиновники:
- Юридические галлюцинации. Нейросети превращают бытовую жалобу (например, на невывезенный мусор или штраф за парковку) в грозную правовую претензию. При этом ИИ может ссылаться на несуществующие законы или приводить судебные прецеденты из других стран — например, из Канады вместо Великобритании.
- Потеря сути. Эксперты по трудовым отношениям отмечают, что ИИ-жалобы сотрудников на работодателей выглядят «устрашающе и многословно», преувеличивают мелкие инциденты, но при этом часто забывают указать главное — чего именно хочет добиться заявитель.
- Иллюзия правоты. Склонность чат-ботов во всем соглашаться с пользователем и поддерживать его провоцирует людей идти в суд даже по бесперспективным делам. В Великобритании количество индивидуальных исков в трудовые суды выросло на 28% за квартал (до 14 000 дел), а число нерассмотренных дел достигло 70 000. Основатель одного из техностартапов рассказал, что оспаривание увольнения неэффективного сотрудника, подавшего иск с помощью ИИ, обойдется его компании примерно в 30 000 фунтов стерлингов.
При этом, по закону, госорганы обязаны рассматривать и отвечать даже на те запросы, которые явно написаны ботом и содержат фактические ошибки.
Как власти и бизнес пытаются защититься
Чтобы не утонуть в потоке машинного текста, организации ищут способы вернуть контроль над ситуацией:
• Ограничения на объем и шаблоны. Некоторые службы омбудсменов вводят строгие лимиты на количество слов в жалобах и заменяют свободную форму обращения на жесткие онлайн-анкеты.
• Отказ от авто-кАмпаний. Офисы депутатов перестают отвечать на массовые шаблонные рассылки через кнопку «отправить обращение», фокусируясь только на обращениях от реальных людей.
• Борьба с ИИ с помощью ИИ. Местные советы уже тестируют Microsoft Copilot и другие нейросети для подготовки черновиков ответов и анализа отчетов. Правда, эксперты опасаются, что это приведет к «диалогу машин с машинами» и полной потере человеческого фактора.
• Заградительные барьеры. Исследователи предлагают более радикальные меры: усложнить процесс подачи заявок, блокировать ботов на госсайтах или даже ввести небольшую плату за отправку запросов.
"Государственным органам и компаниям, вероятно, придется использовать ту или иную форму ИИ, чтобы начать фильтровать информацию или установить более строгие правила относительно того, что они будут принимать, а что нет".
Резюме: если госорганы и компании не внедрят ИИ-фильтры и не ужесточат правила приема обращений, система управления просто не выдержит нагрузки и будет парализована.