Ofcom выпустил предостережение техно компаниям о применении чат-бота, имитирующего реальных людей

Британский регулятор Ofcom заявил, что контент, созданный чат-ботами, будет включен в британский Закон о безопасном интернете (Online Safety Act). Такое заявление регулятор выпустил после «тревожных инцидентов». Пользователи американской платформы Character.AI создали аватаров, имитирующих умерших британских подростков Brianna Ghey и Molly Russell. Компании, нарушающие Закон, будут оштрафованы на сумму от £18 млн или 10% от глобального оборота компании. В крайних случаях приложение или сайт могут быть заблокированы. Юристы отмечают, что видимо Закон довольно сложный и широко интерпретируемый, раз регулятору пришлось выпустить руководство к нему в части чат-ботов и их контента.

Ofcom* предупредил техно компании, что использование чат-бота в целях имитации реального или вымышленного человека с целью взаимодействия с другим человеком может нарушать новый цифровой закон Великобритании.

* Ofcom (The Office of Communications) — независимый регулятор для телекоммуникационных, радиовещательных и почтовых отраслей Великобритании. Ведомство отвечает за обеспечение соблюдения законов и стандартов в этих сферах, а также за защиту интересов потребителей и граждан. Ofcom также занимается расследованием жалоб на СМИ.

Регулятор выпустил руководство после того, как пользователи платформы Character.AI создали аватаров, имитирующих умерших британских подростков Brianna Ghey и Molly Russell. Эти аватары взаимодействовали с другими пользователями.

Ofcom подчеркнул, что контент, созданный чат-ботам о других людях и взаимодействующий с другими людьми, попадает под Закон о безопасном интернете.

Ofcom не назвал американскую компанию Character.AI, а просто заявил, что сайт или приложение, позволяющее пользователям создавать контент о других людях с помощью чат-бота, регулируется Законом.

Ofcom: «Сюда входят сервисы, предоставляющие пользователю инструменты для создания чат-бота, имитирующего реальных и вымышленных людей, и который будет взаимодействовать с другими людьми. Эти сервисы подлежат регулированию Законом».

В открытом письме Ofcom также озвучил, что приложения или сайты, предназначенные для коммуникации пользователей между собой,- например, социальные платформы или мессенджеры – и использующие контент, созданный чат-ботом, подлежат регулированию.

Компании, нарушающие Закон, будут оштрафованы на сумму от £18 млн или 10% от глобального оборота компании. В крайних случаях приложение или сайт могут быть заблокированы.

Руководства от Ofcom были опубликованы после ряда «тревожных инцидентов». Речь идет о публикации в Daily Telegraph. Пользователь платформы Character.AI создал ботов, являющихся виртуальными копиями Brianna, трансгендера 16ти лет, которая была убита двумя подростками в прошлом году, и Molly, которая покончила жизнь суицидом в 2017 году после буллинга в сети.

Также регулятор напомнил о случае в США, где подросток умер после развития отношений с аватаром на Character.AI, который был создан на основе персонажа из фильма «Игра престолов».

Новый закон вступит в силу в следующем году. Социальные медиа и другие платформы, создающие контент, будут обязаны обеспечивать защиту пользователям, особенно детям, от незаконного или вредного контента.

Платформы обязаны создать системы, проактивно удаляющие незаконные и вредный контент, обеспечить понятный инструмент информирования пользователей и оценку рисков.

Благотворительный фонд Molly Rose Foundation (MRF), созданный семьей погибшей Molly, заявил, что новые правила ясно дают понять, что чат-боты могут принести ощутимый вред. В этом году Jonathan Hall KC, советник по регулированию терроризма, заявил, что контент, создаваемый чат-ботами, не регулируется должным образом. Molly Rose Foundation: в законе должно быть четко определено, какой конкретно контент считается незаконным.

Ben Packer, партнер юридической фирмы Linklaters: «Тот факт, что Ofcom должен был прояснить, какие сервисы попадают под Закон, говорит о том, что Закон о безопасном интернете сложный и слишком обширный. Становится понятным, что формирование Закона началось за много лет до появления инструментов ИИ и чат-ботов».

Character.AI: на платформе «серьезно обеспечивается безопасность и модерация». После тех случаев чат-боты Ghey, Russell и Игры престолов были удалены.

Ссылка на статью: