Право
Евгения Евсеева

Еврокомиссия предложила ограничить использование ИИ с «высокими рисками» для общества Статьи редакции

Ограничения могут дать преимущества компаниям из Китая и США, которые не столкнутся с регулированием, считают эксперты.

Еврокомиссия предложила ограничить использование искусственного интеллекта (ИИ), в сферах, где он может угрожать обществу. Среди «высокорисковых» способов использования ИИ, Еврокомиссия называет, например:

  • Автоматическую оценку результатов экзамена.
  • Применение ИИ в роботизированной хирургии.
  • Кредитный скоринг.
  • Оценку достоверности доказательств в суде.
  • Программное обеспечение для найма сотрудников.
  • Использование алгоритмов при проверке документов.

Согласно предложению регулятора, чтобы попасть на рынок, технологии должны соответствовать требованиям безопасности, точности, надёжности, открытости пользователям и регуляторам, качества данных и других.

Еврокомиссия также предложила запретить использовать распознавание лиц в общественных местах, кроме особых случаев — например, поиска пропавших детей или преступников и предотвращения терактов.

Также комиссия считает неприемлемым использование ИИ в «приложениях, которые манипулируют поведением человека, чтобы обойти его волю» и системы «социального рейтинга».

ИИ с «минимальным риском» для общества — например, ИИ-решения в играх или спам-фильтры — Еврокомиссия предлагает никак не регулировать. По мнению комиссии, таких технологий — большинство.

Эксперты считают, что новые правила не затронут, например, китайские компании, что даст им преимущество, пишет The Wall Street Journal. «Это сделает разработку ИИ в Европе непомерно дорогой или даже технологически невозможной. США и Китай будут веселиться, наблюдая, как ЕС ставит на колени свои собственные стартапы», — заявил Бенджамин Мюллер, старший аналитик европейского Центра инноваций в области данных.

Издание отмечает, что предложению Еврокомиссии предстоит «долгий путь», так как его должны одобрить Европейский совет и Европарламент, что «может занять годы».

{ "author_name": "Евгения Евсеева", "author_type": "editor", "tags": ["\u043d\u043e\u0432\u043e\u0441\u0442\u044c","\u043d\u043e\u0432\u043e\u0441\u0442\u0438","\u0438\u0441\u043a\u0443\u0441\u0441\u0442\u0432\u0435\u043d\u043d\u044b\u0439\u0438\u043d\u0442\u0435\u043b\u043b\u0435\u043a\u0442"], "comments": 48, "likes": 19, "favorites": 27, "is_advertisement": false, "subsite_label": "legal", "id": 236955, "is_wide": false, "is_ugc": false, "date": "Wed, 21 Apr 2021 16:47:46 +0300", "is_special": false }
0
48 комментариев
Популярные
По порядку
Написать комментарий...
13

Скоро Европу можно будет называть не старый свет а древний свет.

Ответить
43

Когда алгоритм понизит твой социальный рейтинг, ты все равно не сможешь туда полететь.

Ответить
3

Точнее не скажешь.

Ответить
1

Я согласен что нужно запретить слежку на улицах например. Но запрещать использования ии в найме работников это всё равно что запретить использование огня. Нужно не запрещать а смотреть какие есть проблемы в использовании и вводить какие нибудь минимальные нормы снизу. 
У меня канадский паспорт поэтому езжу в Европу так часто как хочу без всяких виз.

Ответить
0

Езжу или ездил? С марта 2020 в EU бан на въезд из всех стран кроме safe zone из 7-8 стран, в которые не входит Канада.

Ответить
0

Ездил.

Ответить
0

Они на IT решили совсем болт забить, типа нет и нечего начинать. 
С другой стороны, как музей древней жизни Европа станет еще интереснее. Прям как сейчас Куба заповедник совка. 

Ответить
6

Ох уж эта сгнившая европа

Ответить
1

Не решили. Судя по числу суперкомпьютеров в ЕС. Или по мощности каждого конкретного или по суммарной производительности. Происходят «странные вещи» Например Италия берёт, строит суперкомпьютер и уверенно обгоняет тот же сберовский Кристофари, мощнейший комп России. Зачем?! А, вот, магия. Ну не Fiat же на нём делать, правильно? И таких стран в Европе несколько. Плюс Швейцария и Британия. Другое дело, что у ЕС нет таких (наглых) штук, как Facebook/Huawei шпионаж или доминирующих операционок, поэтому европейцы и не будоражат новостные полосы.

Ответить
0

Вопрос не зачем это Италии, а зачем он Сберу)
У амерских компаний, кстати, дофига серверов в Европе

Ответить
1

Само-собой. Сервера той же Google составляют заметную долю серваков в дата-парках Ростелекома. Но это другие сервера. Для ИИ фигачут скорее суперкомпьютеры, на моделях обучают сетки. Думаю есть чёткое разделение, и по назначению: «проксировать контент про котиков и дворец с YouTube? Или ИИ мутить?», и по железу, и по размещению. Сервера для ИИ располагаются дома.

Ответить
1

Как-то странно такое говорит о части света, чей it кластер генерирует сотни млрд $ :) Является одним из лидеров, в т.ч. по разработке AI

Ответить
3

На деньги, поступающие в ЕС из Китая и РФ, можно позволить себе быть неэффективными -  продолжать содержать HR, андеррайтеров, запрашивать и выдавать документы на бумаге, и т.д.
А вассалы пусть дальше корячатся в попытках сэкономить копейку.

Ответить
0

Деньги из РФ и Китая поступают в основном за то, что в этих странах покупают технологии ЕС, включая It

Ответить
25

ограничить использование искусственного интеллекта (ИИ), в сферах, где он может угрожать обществу

ИИ:

Ответить
0

думаю вот этим как раз и угрожает)

Ответить
6

Абсолютно верное решение. Иначе мы окажемся в мире похуже, чем в сериале черное зеркало

Ответить

Смертный меч

4

Начало доходить, что ИИ сделанный в 50 -ых и умело раскрученный последние годы вообще-то дает так себе результат. Ну хорошо хоть сейчас сообразили на уровне государств. Вообще конечно печально на сколько отрасль стала управляемой деньгами и жуликами у руля компаний. Продадут все что угодно.

Ответить
3

ИИ сделанный в 50 -ых и в 2021-м это две огромные разницы. То, что раньше нельзя было даже близко посчитать на мейнфреймах, сегодня с легкостью считает новый айпад на M1.

Ответить
6

Да хоть кластер себе из этого говна соберите, простейшая модификация изображений легко все раком поставит

https://miro.medium.com/max/4000/1*PmCgcjO3sr3CPPaCpy5Fgw.png

Ответить
1

Не долго ещё это будет работать. Просто на эту проблему ещё в серьёз не брался. Есть пока более интересные вещи куда можно потратить время и мощности.

Ответить
2

Ага, умиляют чуваки, которые судят о возможностях ИИ по контекстной рекламе яндекса.
Вон в 2015 была игра го с тысячелетней историей, где математически невозможно просчитать все комбинации ходов.
В гугле заморочились и за пару лет создали пачку нейросетей, которая за 21 день самообучается с нуля до состояния "обыграть всухую 60 топ-игроков планеты".

Ответить
–1

ТС именно о том и пишет, что ограничивать наработки полувековой давности для применения на стратегических направлениях — нормально

Появятся новые технологии — можно будет снова обсудить применимость. А пока у нас людей менты винтят в супермаркетах потому что нейросетка сквозь медицинскую маску указала на разыскиваемого преступника — играйте лучше в го.

Ответить
0

Есть факт - ЕС пытается ограничить использование ИИ.
Вы считаете, что это продиктовано несовершенством ИИ.
Я считаю, что это продиктовано нежеланием ЕС раскачивать лодку (лишать тысячи людей работы).
Пока у ЕС есть деньги на неэффективный труд, он будет стараться оттянуть внедрение ИИ.
Что не мешает, конечно, создавать технологии на базе ИИ в ЕС и продавать их в страны третьего мира - пускай оптимизируются там по самое не балуй, а потом мочат друг друга за миску еды.

Ответить
0

Я не специалист по чтению между строк (это вы где-то нашли про лодку и ее раскачивание), зато понимаю в ПО. Пока ни одна компания на планете не предлагает алгоритмов распознавания документов, точность которых была бы пригодна для использования их в критичной инфраструктуре.

Именно это приходится объяснять клиентам, заказывающим разные системы автоматизации документооборота.

Ответить
0

Я не специалист по чтению между строк

А зря, т.к. в большой политике декларируемые мотивы часто не соответствуют истине. И если хотите разобраться в происходящем, то нужно ответить себе на вопрос "почему это решение может быть выгодно тем, кто его принял"?
алгоритмов распознавания документов, точность которых была бы пригодна для использования их в критичной инфраструктуре

В новости вроде говорится о распознавании любых документов.

Ответить
0

почему именно айпад на м1?

Ответить
0

Потому что почему бы и нет?

Ответить
0

Самый мощный планшет на текущий момент. Имеет 16-ти ядерный Neural Engine на борту, а это не хухры-мухры!

Ответить
4

ИИ уже занимается модерированием и банами в фб и делает это откровенно плохо. Но баны при этом реальные. Экстраполировав данный опыт на другие сферы, можно представить что нас ждет

Ответить
1

ИИ в этом деле не только у фб и справляется неплохо раз у вас пригорело от банов. Расскажите что пытались залить?

Ответить
0

ИИ - это не какой-то дядька, а обычные алгоритмы, замешанные с статистическими выборками и вероятностными предсказаниями. Если ИИ работает плохо - то виноваты в этом инженеры.

Ответить
1

Еще ИИ может заместить тупых европейских чиновников, выпускающих глупые запреты.

Ответить
0

Люди на Земле, как крысы накрытые ведром — все равно друг друга перегрызут. А с помощью ИИ или палок-дубинок, разница небольшая. 

Ответить

Специализированный Данила

1

""Также комиссия считает неприемлемым использование ИИ в «приложениях, которые манипулируют поведением человека, чтобы обойти его волю»""
А реклама разве не этим как раз занимается?? профан в этом вопросе, так что поправьте если потребуется.

Ответить
2

А реклама разве не этим как раз занимается??

Вот пример "ИИ" рекламы яндекса, который пытается обойти мою волю.

Наушники эти я вчера для комментария на vc в их маркете смотрел, а остальное какой-то бред. Это с учётом, что у меня аккаунт с которого они знают что я ем, куда я езжу и все запросы к Алисе. 

Ответить

Специализированный Данила

Antsiforov
0

я про сам принцип спросил) насколько это хорошо реализовано совсем другой вопрос)

Ответить
1

ИИ невозможно будет контролировать по определению. Кстати, всё это напомнило про Василиск Роко:

Согласно эксперименту, Василиск Роко — всемогущий искусственный интеллект из будущего, который может задним числом наказывать тех, кто не способствовал его созданию; сам факт знания этого подвергает человека риску наказания[2]. Кроме того, мы не можем знать, что мы сами не являемся теми самыми двойниками, живущими в виртуальном мире, созданном Василиском[1].

 На всякий случай поставил диз. Я за Василиска. 😅

Ответить
–2

Какая-то грустная новость 

Ответить
0

Палка о 2 концах, глянем на реализацию

Ответить
0

Опасность не в искусственном интеллекте, а натуральной тупости.

Ответить
0

Наконец узнал, куда кеды с дырками относить.

Ответить
0

Это для смертных очередное шоу а все как было так и будет

Ответить
0

Преимущество человека в Кредитном скоринге крайне сомнительна. Или в Европе человечность намного важнее устойчивости банковской системы?

Ответить

Комментарий удален

Комментарий удален

Комментарий удален

Комментарий удален

Комментарий удален

0

Да это пока только предложение, у которого, наверняка, будет много противников. Так что пока до реализации дело дойдет ИИ уже захватит планету)) 

Ответить

Комментарии

null