Трамп намерен искоренить политически ангажированный ИИ. Эксперты: а возможно ли это в принципе?

Издание The Post поднимает слегка забытую проблему предвзятости ИИ моделей. Новый Указ Президента Трампа может реформировать политики чат-ботов. Указ запрещает федеральным службам закупать «политически ангажированные» модели ИИ. В тексте названы концепции, содержащие «критические расовые теории, трансгендеризм, неосознанные предвзятости, междисциплинарность и системный расизм», которые не должны быть включены в ИИ модели. Эксперты считают, что обучить ИИ модель нейтральности легче сказать, чем сделать. Создать модели ИИ, свободные от идеологической предвзятости, невозможно. Получается, что отрасль признает, что модели ИИ идеологически предвзяты. Директор НКО Humane Intelligence и бывший глава отдела этики машинного обучения в Twitter*: «Звучит круто: «свободные от идеологической предвзятости». Но на практике это невозможно сделать». Американские правозащитники в этой ситуации цитируют Первую поправку. Вице-президент по политике в НКО Center for Democracy and Technology: правительство не должно вводить цензуру на определенные темы, у нас есть Первая поправка. Однако, администрация Президента имеет право вводить и соблюдать стандарты для тех продуктов, которые она закупает, а обеспечение соблюдения ограничений зависит от целей, которые администрация декларирует.

Президент Дональд Трампа подписал в среду Указ, чтобы направить федеральные службы к тем компаниям, чьи ИИ модели свободны от идеологических подоплек.

Этот Указ является частью так называемого «Плана действий по ИИ». Указ нацелен на то, что Трамп называет «политической ангажированностью ИИ» и прямо касается чат-ботов, генераторов изображений и других инструментов, чьи результаты отражают либеральную предвзятость. Указ запрещает федеральным службам закупать ИИ модели, которые продвигают идеи DEI (разнообразие, равенство и инклюзивность).

Дональд Трамп: «С этого момента правительство США будет закупать только те модели ИИ, которые привержены истине, честности и беспристрастны».

Но что именно значит «политически ангажированный ИИ», и как техно компании должны устранить этот ИИ в своих моделях?

Эксперты заявляют, что ответ на эти вопросы неочевиден. Часть законодателей заявляют, что инициатива администрации Трампа регулировать, что должны и не должны выдавать чат-боты, вызовет вопросы в связи с Первой поправкой Конституции.

Rumman Chowdhury, управляющий директор НКО Humane Intelligence и бывший глава отдела этики машинного обучения в Twitter*: «Звучит круто: «свободные от идеологической предвзятости». Но на практике это невозможно сделать».

*Платформа запрещена в РФ

Еще в 2023 году появились опасения, что популярные ИИ инструменты подвержены либеральному уклону. Тогда в социальных медиа постили примеры, как ChatGPT поддерживал права трансгендеров и их активное продвижение и отказывался сочинить стих, прославляющий Трампа. Проблема стала еще более явной в прошлом году, когда генератор изображений Gemini от Гугл вносил неадекватные расовые разнообразия в любой контекст: например, в ответ на запрос нарисовать викингов, нацистов или отцов Америки ИИ бот изображал черных, азиатов или индейцев.

Гугл тогда принес извинения и перепрограммировал инструмент, заявив, что такие результаты стали непреднамеренным следствием попытки сделать продукт подходящим всем пользователям во всем мире.

Fabio Motoki, преподаватель в University of East Anglia: ChatGPT и другие ИИ боты действительно могут быть подвержены либеральным искажениям в определенных ситуациях. В июне Fabio с коллегами опубликовал исследование, где было выявлено, что ответы на политические вопросы ботом GPT-4 отражали позицию Демократов.

Fabio Motoki: провести оценку политических взглядов ИИ инструмента –«дело непростое». По определенным вопросам, например, военное превосходство США, инструмент от OpenAI склонен выдавать текст и изображения как республиканец. Другие исследования бота, например, проведенные изданием The Post, показывают наличие у инструмента генератора изображений этнических, религиозных и гендерных стереотипов.

Эксперты заявляют, что ИИ модели демонстрируют все виды предвзятостей. Ведь это естественное свойство моделей.

Чат-боты и генераторы изображений опираются на огромное количество данных, которое они стянули со всего интернета, чтобы предсказывать самые вероятные или релевантные ответы на запрос пользователя. Они могут ответить на один промпт, выплевывая штампы женоненавистников, которыми были наводнены негативные анонимные форумы, а на другой промпт ответить положениями политик DEI, которые были запечатлены в корпоративных правилах найма.

Fabio Motoki: обучение ИИ моделей с целью исключить предвзятости довольно известная проблема с подковыркой. Вы можете попытаться это сделать, ограничивая базу данных для обучения, оплачивая труд людей за цензурирование ответов бота по шкале нейтральности или написав отчетливые инструкции в коде. Но все эти три способа имеют ограничения и делают ответы моделей менее содержательными или точными.

Fabio Motoki: «Это очень, очень сложно сделать модели такими, как вы ждете».

Провал Gemini – яркий пример такой истории. А в этом году разработчик ИИ xAI Илона Маска дал инструкцию боту Grok отдавать предпочтение «поиску истины» над политической корректностью. Это привело к расистским ответам бота и ссылкам на антисемитские теории заговора, а в какой-то момент бот стал называть себя «mecha*-Hitler».

* Mecha (от англ. Mechanism) — название оригинального жанра про огромные боевые машины, управляемые пилотом. Предпосылки жанра можно найти в некоторых научно-фантастических произведениях 19 века, но как культурное явление он возник и начал свое развитие в Японии.

Rumman Chowdhury: политическая нейтральность в ИИ моделях вообще «не вариант». «Она просто невозможна».

Rumman Chowdhury: например, если вы спросите бота о его взглядах на контроль вооружений, то он уклонится от ответа и будет повторять тезисы Демократов и Республиканцев или попытается найти среднее между ними. Среднестатистический пользователь ИИ из Техаса увидит, что ответы бота подвержены либеральной предвзятости, а житель Нью-Йорка может увить, что ответы довольно консервативны. Пользователю из Малайзии или Франции, стран с жестким законодательством в части контроля оружия, такие ответы покажутся радикальными.

Указ Президента сам по себе не нейтрален, так как он исключает некоторые сильно левые, но не правые взгляды. Указ называет «критические расовые теории, трансгендеризм, неосознанные предвзятости, междисциплинарность и системный расизм» концепциями, которые не должны быть включены в ИИ модели.

Samir Jain: «Я подозреваю, что любая информация о помощи трансгендерам будет истолкована как «политически ангажированная». Хотя это просто точка зрения».

Samir Jain: Такая точка зрения включается в ИИ частными компаниями, и это может послужить поводом обратиться к Первой поправке. Разумеется, все зависит от того, как все будет реализовано на практике.

Samir Jain: «Правительство не может вводить цензуру на определенные темы, и это самое важное». Однако, администрация Президента обладает правом устанавливать стандарты для тех продуктов, которые она закупает, а обеспечение соблюдения этих ограничений зависит от целей, которые администрация декларирует.

Некоторые аналитики и правозащитники считают, что Указ Трампа в общем-то не такой жесткий, как ожидалось ранее.

Neil Chilson, глава ИИ политики в правой НКО Abundance Institute: Указ о «политически ангажированном ИИ» - часть общего плана Трампа об ИИ, который в общем-то поддерживается. Однако, ознакомившись с Указом, Neil считает, что опасения слегка преувеличены.

Mackenzie Arnold, директор по американской политике в двухпартийном мозговом центре Institute for Law and AI: отлично, что Указ принимает во внимание техническую сложность программирования ИИ инструментов в целях нейтральности и предлагает компаниям соблюдать требования, раскрывая, какие инструкции получают их ИИ модели.

Mackenzie Arnold: «Хотя сам стиль Указа о «предотвращении политически ангажированного ИИ» в правительстве не вызывает у меня симпатии, но сам текст вполне разумен». Mackenzie отмечает, что большой вопрос – как администрация будет реализовывать этот Указ.

Mackenzie Arnold: «Если администрация будет стремится раскрыть чувствительную информацию (в ИИ моделях), то это хорошо. Но если все превратится в идеологическое давление, то это будет большая ошибка и плохой прецендент».

Ссылка на статью:

https://www.washingtonpost.com/technology/2025/07/24/trump-ai-woke-executive-order

Исследование Fabio Y.S. Motoki Assessing political bias and value misalignment in generative artificial intelligence: https://www.sciencedirect.com/science/article/pii/S0167268125000241