ИИ бот в правительство Великобритании на основе коммерческих американских моделей вызывает опасения

Критика вокруг скорости и внедрения ИИ в общественном секторе Великобритании возрастает на фоне продолжающихся дебатов о незаконном использовании ИИ компаниями материалов, защищенных авторским правом. С начала года госслужащие начали использовать ИИ инструмент Humphrey, который помогает им писать конспект. Инструмент использует GPT от Open AI. Инструмент Redbox для подготовки документов. Redbox использует GPT от Open AI, Claude от Anthropic и Google Gemini. Правительство: один час работы ПО стоит менее 50ти пенсов, а госслужащие сберегли час своего времени. Правительство не заключило коммерческих договоров с Биг Тех по использованию ИИ инструментов и использует модель «платишь, пока используешь» в рамках текущих контрактов на облачные сервисы. Критики считают, что это может привести к проблеме использования ИИ материалов, защищенных авторским правом.

Humphrey – ИИ инструмент в правительстве Великобритании. ИИ бот основывается на моделях от OpenAI, Anthropic и Google, что вызывает опасения, что правительство все полагается на Биг Тех.

Министры решили реформировать сектор гражданских услуг с помощью развертывания ИИ в общественном секторе и повышения эффективности. Официальные лица Англии и Уэльса проходят обучение новому ИИ инструменту.

Однако, правительство не заключило коммерческих договоров с Биг Тех по использованию ИИ инструментов и использует модель «платишь, пока используешь» в рамках текущих контрактов на облачные сервисы. Эти контракты позволяют использовать сервисы Биг Теха.

Критики выражают обеспокоенность на фоне скорости и масштаба внедрения ИИ от Биг Тех в самый центр правительства страны, особенно в тот момент, когда в обществе идут споры об использовании ИИ компаниями материалов, защищенных авторским правом.

Министры спорят с критиками в Палате Лордов о том, что ИИ обучается на материалах, защищенных авторским правом, без оплаты за эти материалы. Законопроект о данных разрешает использовать материал, защищенный авторским правом, если правообладатель не высказал явно возражений. Этот законопроект прошел последнее согласование на этой неделе и не учел мнение тех, кто призывал о плате за использование авторских материалов.

История с авторскими правами вызвала возмущение креативной индустрии, включая таких звезд как Элтон Джон, Tom Stoppard, Пол Маккартни и Кэйт Буш.

Запрос на основе Закона о свободе информации выявил, что инструменты, используемые правительством, а именно: Consult, Lex и Parlex, созданы на основе GPT от Open AI. Инструменты в правительстве используются для консультаций и анализа законодательства. Инструмент Redbox помогает госслужащим с такими задачами, как подготовка документов. Инструмент использует GPT от Open AI, Claude от Anthropic и Google Gemini.

Ed Newton-Rex, глава Fairly Trained, группы, которая выступает против использования ИИ компаниями материалов, защищенных авторским правом, заявил, что такая ситуация создает потенциальный конфликт в правительстве, так как правительство тоже столкнется с темой авторского права.

Ed Newton-Rex: «Правительство не способно эффективно регулировать эти компании, если одновременно оно включает их продукты в свою работу. Эти ИИ модели созданы за счет использования работы креативных авторов без оплаты этих работ».

«ИИ создает огромное количество ошибок, и эти ошибки появятся в работе правительства. ИИ также известно проблемой «галлюцинации». Правительство должно сделать работу Humphrey прозрачной, чтобы выявлять ошибки инструмента».

Shami Chakrabarti, лэйборист и сторонник движения за гражданские свободы, также призывает к осторожности и помнить об ошибке предубеждения и неточностях, которые оказали трагичное влияние на систему Horizon, которая привела к ошибочным судебным преследованиям сотрудников почты.

Источники с Уайт-холл сообщают, что инструменты Humphrey используются разными способами, и пользователи также по-разному решает проблемы «галлюцинаций» ИИ. Правительство постоянно публикует оценки точности ИИ инструментов. Инструкция ИИ для правительства включает в себя правила, которые помогают госслужащим использовать эти технологии, а также рекомендуют, на каком этапе призывать человека для принятия решения.

Стоимость использования ИИ в правительстве будет расти по мере развертывания Humphrey. Однако, официальные лица сообщают, что цена на ИИ в отрасли идет вниз, так как модели становятся все более эффективными.

Источники в правительстве заявляют, что большие проекты (как например, использование ИИ в правительстве Шотландии) стоили менее £50 и сберегли много часов работы служащих.

ПО AI Minute в правительстве используется для конспектов. Один час работы ПО стоит менее 50ти пенсов, а госслужащие сберегли час своего времени.

Представитель Министерства науки, инноваций и технологий: «В ИИ заключен огромный потенциал для государственного сектора, технология может помочь стать сектору более эффективным благодаря передаче базовых функций ИИ. Госслужащие в этом случае могут сфокусироваться на более ценных работах».

«Использование этой технологии не имеет своей целью ограничить наши полномочия по регулированию».

«Humphrey создан ИИ экспертами из правительства, он позволяет снизить расходы, а также для нас это эксперимент по поиску решения, как улучшить нашу эффективность».

Издание Guardian сделало запрос в ChatGPT, какая базовая модель использовалась для Humphrey и использовалась ли модель от Open AI. ИИ бот ответил, что нет данных на этот вопрос.

Инструмент Humphrey был введен в начале этого года. Правительство тогда заявило, что потратит £23 млрд на эту различные контракты по технологиям, но эта стратегия будет изменена, чтобы дать возможности небольшим технологическим стартапам.

Ссылка на статью: