Депутат создал ИИ-двойника, но что-то пошло не так

Член парламента Великобритании от Лейбористской партии Марк Сьюардс представил своего цифрового двойника — чат-бота, который должен был помочь справиться с потоком обращений избирателей. За первые три месяца работы депутат получил 6000 запросов, и, по его словам, «один человек не в состоянии это сделать».

Решение выглядело логичным: стартап Neural Voice, сооснователем которого является один из избирателей Сьюардса, создал ИИ-аватар с мультяшным изображением депутата и его синтезированным голосом. Избиратели могут задавать вопросы через веб-интерфейс, получая ответы круглосуточно.

Журналистка The Guardian с йоркширским акцентом быстро обнаружила фундаментальную проблему: бот не смог правильно распознать её речь. Система, созданная для улучшения доступности, оказалась недоступной для части населения с региональными диалектами.

Это иллюстрация того, как ИИ может непреднамеренно исключать те самые сообщества, которым должен служить. Если система не понимает буквальный голос избирателя, как она поймёт его потребности?

Разработчики так боялись, что бот скажет что-то неуместное, что запретили ему обсуждать практически всю политику. ИИ-Сьюардс отказывается говорить о премьер-министре Кире Стармере, других депутатах, Дональде Трампе и даже смертной казни. На вопрос о главных проблемах избирателей он отвечает: «не располагаю этой информацией».

Парадокс очевиден: политический инструмент, который не может говорить о политике. В попытке сделать бота «безопасным», его сделали бесполезным. Зато ИИ-депутата можно попросить создать профиль в Tinder. Бот также даёт неверные советы — например, рекомендует обращаться в полицию по поводу незаконного выброса мусора вместо местного совета.

Интересно сравнить британский эксперимент с российским «Нейро Жириновским», представленным ЛДПР в 2023 году — через год после смерти основателя партии. Если британцы пытались решить административную проблему, то ЛДПР решала экзистенциальную задачу: как сохранить партию, полностью построенную на личности одного человека.

«Первый в мире политический алгоритм» обучили на терабайтах материалов Жириновского: научные публикации, интервью, телевыступления, более 100 часов речи. Компания «Наносемантика» создала языковую модель на базе GPT с миллиардом параметров и отдельную модель синтеза речи с 48 миллионами параметров для воссоздания специфических интонаций.

Получилась не просто технология, а инструмент политического бессмертия. ЛДПР фактически канонизировала своего основателя в коде, превратив его в вечный источник «правильных» ответов. Новый лидер партии Леонид Слуцкий теперь может управлять под вечной цифровой тенью Жириновского, апеллируя к его «мнению» по любому вопросу.

Это иной подход: не сервис для граждан, а идеологический оракул. Если британский бот старается быть нейтральным до абсурда, то российский воспроизводит все особенности оригинала — включая национализм и эпатажные заявления. Технология становится зеркалом политической системы.

Британская общественность отреагировала на ИИ-Сьюардса предсказуемо негативно. В соцсетях депутата обвинили в лени и попытке избежать личного общения с избирателями. Академики высказали более взвешенные опасения: доктор Сьюзан Оман из Университета Шеффилда отметила риск того, что избиратели могут почувствовать себя «менее услышанными», особенно пожилые люди, не понимающие, что говорят с ботом.

Эксперимент Сьюардса — часть более широкой тенденции. Правительство Великобритании представило «Хамфри» — набор ИИ-инструментов для разработки политики и установило партнёрство с OpenAI. На выборах 2024 года даже баллотировался «ИИ Стив».

Подписывайтесь на Telegram Нейрократия.