В ЕС поддержали законопроект о регулировании ИИ — он запрещает онлайн-системы распознавания лиц в общественных местах

Если его примут, он также обяжет компании маркировать контент как сгенерированный ИИ и прогнозировать риски.

Обновлено 14 июня. Европарламент одобрил законопроект о регулировании ИИ — теперь его должны обсудить с Еврокомиссией, затем документ рассмотрит Совет ЕС.
  • Два профильных комитета Европарламента — комитет по гражданским свободам и комитет по внутреннему рынку и защите прав потребителей — предварительно одобрили проект закона AI ACT. Он вводит регулирование ИИ.
  • В июне 2023 года за документ должен проголосовать Европарламент в целом, затем его обсудят с Еврокомиссией, а только после этого — Совет ЕС.

Что предлагает законопроект

  • Все основанные на ИИ системы разделят на три категории — с неприемлемыми рисками, высокими и низкими. Первые запретят, вторые должны будут соответствовать «определённым юридическим требованиям», третьи не будут регулировать. Под «неприемлемыми рисками» проект понимает в том числе использование ИИ для манипуляций и выставления «социального рейтинга».
  • В целом документ описывает правила использования систем на основе ИИ — систем распознавания лиц, генеративных нейросетей, беспилотных автомобилей и других.
  • Компании, которые используют ИИ-инструменты, должны будут оценивать их потенциальные риски с точки зрения «здоровья, безопасности, фундаментальных прав, окружающей среды, демократии и верховенства закона».
  • Проект запрещает использование систем распознавания лиц при помощи биометрии и других систем «удалённой биометрической идентификации» в режиме реального времени в общественных местах. Кроме них, запрещено будет и «распознавание эмоций» — полицией, работодателями и в учебных заведениях.
  • Также под запретом использование ИИ для разделения людей по категориям: по полу, расе, этнической принадлежности, гражданству, вероисповеданию и политической позиции. Отдельно запрещён сбор с камер и из соцсетей биометрических данных, которые планируется использовать для создания базы распознавания лиц.
  • Полиции хотят запретить использовать системы предиктивной аналитики — для прогнозирования правонарушений, когда ИИ «предсказывает», что человек может совершить преступление.
  • К «высокорисковым системам» проект относит беспилотные автомобили, медицинские приборы с применением ИИ и другие, сбой в которых может привести к угрозе здоровья и другим серьёзным последствиям.
  • Законопроект не запрещает использование генеративного ИИ — речь о GPT, основанных на нейросети чат-ботах и других моделях. Но есть определённые требования о «прозрачности». Контент придётся отмечать плашкой, что его сгенерировал ИИ, а создателям нужно раскрывать список того, какая защищённая авторским правом информация использовалась для обучения.
  • За нарушение компаниям может грозить штраф на сумму до €30 млн, или 6% от годовой выручки.
4949
129 комментариев

Просвещённая Европа изволит тормозить прогресс. Как жаль, что сейчас не те времена, когда можно сжечь Жан... Сэма Альтмана, например.

8
Ответить

Ну да, лучше как у нас. Когда любой твой заход и выход из подъезда известен. И все это можно за 5000 купить

35
Ответить

езжайте в Китай, там "прогресс" налицо.

11
Ответить

По вашему, сажать людей - это прогресс?

3
Ответить
Комментарий удалён модератором

Комментарий недоступен

6
Ответить

И по защите граждан от прогресса, к сожалению.

1
Ответить