В ЕС поддержали законопроект о регулировании ИИ — он запрещает онлайн-системы распознавания лиц в общественных местах

Если его примут, он также обяжет компании маркировать контент как сгенерированный ИИ и прогнозировать риски.

Обновлено 14 июня. Европарламент одобрил законопроект о регулировании ИИ — теперь его должны обсудить с Еврокомиссией, затем документ рассмотрит Совет ЕС.

Два профильных комитета Европарламента — комитет по гражданским свободам и комитет по внутреннему рынку и защите прав потребителей — предварительно одобрили проект закона AI ACT. Он вводит регулирование ИИ.
В июне 2023 года за документ должен проголосовать Европарламент в целом, затем его обсудят с Еврокомиссией, а только после этого — Совет ЕС.

Все основанные на ИИ системы разделят на три категории — с неприемлемыми рисками, высокими и низкими. Первые запретят, вторые должны будут соответствовать «определённым юридическим требованиям», третьи не будут регулировать. Под «неприемлемыми рисками» проект понимает в том числе использование ИИ для манипуляций и выставления «социального рейтинга».
В целом документ описывает правила использования систем на основе ИИ — систем распознавания лиц, генеративных нейросетей, беспилотных автомобилей и других.
Компании, которые используют ИИ-инструменты, должны будут оценивать их потенциальные риски с точки зрения «здоровья, безопасности, фундаментальных прав, окружающей среды, демократии и верховенства закона».
Проект запрещает использование систем распознавания лиц при помощи биометрии и других систем «удалённой биометрической идентификации» в режиме реального времени в общественных местах. Кроме них, запрещено будет и «распознавание эмоций» — полицией, работодателями и в учебных заведениях.
Также под запретом использование ИИ для разделения людей по категориям: по полу, расе, этнической принадлежности, гражданству, вероисповеданию и политической позиции. Отдельно запрещён сбор с камер и из соцсетей биометрических данных, которые планируется использовать для создания базы распознавания лиц.
Полиции хотят запретить использовать системы предиктивной аналитики — для прогнозирования правонарушений, когда ИИ «предсказывает», что человек может совершить преступление.
К «высокорисковым системам» проект относит беспилотные автомобили, медицинские приборы с применением ИИ и другие, сбой в которых может привести к угрозе здоровья и другим серьёзным последствиям.
Законопроект не запрещает использование генеративного ИИ — речь о GPT, основанных на нейросети чат-ботах и других моделях. Но есть определённые требования о «прозрачности». Контент придётся отмечать плашкой, что его сгенерировал ИИ, а создателям нужно раскрывать список того, какая защищённая авторским правом информация использовалась для обучения.
За нарушение компаниям может грозить штраф на сумму до €30 млн, или 6% от годовой выручки.

#новость #ии #ес