Будущее Kirill Kazakov
5 069

Каких опасностей нужно ожидать от искусственного интеллекта в 2019 году

Список составил журнал MIT Technology Review.

В закладки
Аудио
Беспилотный автомобиль Uber

Раньше было модно беспокоиться насчёт сверхумных машин, берущих под контроль мир. Но 2018 год показал, что ИИ может принести много вреда задолго до того, как это случится. Самые современные алгоритмы здорово преуспевают в восприятии — классифицировании изображений и обработке речи — однако восхищение прогрессом скрывает, как далеко мы находимся от создания инструментов, не уступающих человеку по развитию.

Более того, 2018 год показал, что сбои дают даже самые продвинутые ИИ-системы, а их бездумное применение может иметь пугающие последствия.

1. Аварии с беспилотными автомобилями

В ходе расследования смертельной аварии с беспилотником Uber специалисты выяснили, что ошибки в программе автомобиля можно было избежать. Вывести на рынок свои разработки спешат и традиционные автопроизводители, и масса различных стартапов.

Наибольшего успеха добилась Waymo, дочерняя компания Alphabet, запустившая сервис беспилотного такси в прошлом году. Тем не менее даже её машины способны ездить далеко не везде и не в любую погоду.

Автопарк Waymo

Чего ожидать в 2019 году: регуляторы в США и других странах заняли пассивную позицию из страха встать на пути инноваций, намекая, впрочем, что существующие правила безопасности могут быть ослаблены. Но пешеходы и водители не подписывались на эксперименты, поэтому ещё одна серьёзная авария в 2019 году может изменить отношение властей.

2. Политические манипуляции

В марте прошлого года активно обсуждалось влияние Facebook на американские выборы. Дискуссия показала, как можно манипулировать алгоритмами, отбирающими новости для социальных медиа.

Во время слушаний в Сенате глава Facebook Марк Цукерберг заявил, что ИИ можно обучить блокированию вредного контента, хотя сейчас такие системы далеки от полноценного понимания значения текста, изображения или видео.

Чего ожидать в 2019 году: заявления Цукерберга пройдут проверку во время выборов в двух крупнейших африканских странах: ЮАР и Нигерии. Подготовка к президентским выборам в США, которые пройдут в 2020 году, также может вызвать появление новых средств дезинформации, работающих на ИИ, включая вредоносных чат-ботов.

3. Мирные алгоритмы

В прошлом году оформилось движение за мирный ИИ — когда сотрудники Google узнали, что руководство фирмы поставляет технологии для анализа записей с дронов Военно-воздушным силам США. Работники опасались, что это сотрудничество может стать роковым шагом к автономным смертоносным ударам беспилотников. В ответ на протесты Google свернула проект и создала для ИИ этический код.

Учёные и крупные фирмы поддержали кампанию по запрету автономного оружия. Тем не менее военное использование ИИ только набирает силу, а компании вроде Amazon и Microsoft не против в этом помочь.

Чего ожидать в 2019 году: несмотря на увеличение расходов на ИИ Пентагоном, активисты надеются на превентивный запрет автономного вооружения со стороны ООН.

4. Наблюдение

Способность ИИ распознавать лица привела к тому, что многие страны развёртывают системы наблюдения. Кроме того, распознавание лица позволяет разблокировать телефон и автоматически отмечать пользователя на фотографиях в соцсетях.

Систему слежения для китайского правительства разрабатывает компания SenseTime

Подобные технологии — мощный способ вторгнуться в личное пространство людей, а необъективность обучающих данных, вероятно, поставит дискриминацию на поток. В некоторых государствах, особенно в Китае, распознавание лиц активно используется полицией. Amazon продаёт технологии Иммиграционной службе США и другим правоохранительным структурам.

Чего ожидать в 2019 году: распознавание лиц появится в автомобилях и веб-камерах и будет использоваться как для определения эмоций, так и для определения личности. И всё же в этом году, возможно, власти возьмутся за предварительное регулирование.

5. Поддельные видео

Быстрое распространение deepfake-видео в прошлом году показало, с какой лёгкостью ИИ производит поддельные ролики: порно, мэшапы и даже клеветнические кампании. В дополнение к этому, компания Nvidia, производящая графические процессоры, продемонстрировала возможности генеративно-состязательных сетей, которые могут создать фотореалистичные лица с заданными параметрами.

Все лица сгенерированы специалистами Nvidia

Чего ожидать в 2019 году: по мере развития deepfake-технологий люди, вероятно, начнут попадать в ловушку. DAPRA протестирует новые методы обнаружения поддельных видео. Но поскольку такие разработки тоже полагаются на ИИ, это будет игра в кошки-мышки.

6. Алгоритмическая дискриминация

В прошлом году необъективность отыскали во множестве коммерческих инструментов. Согласно исследованию, проведённому в MIT Media Lab, алгоритмы компьютерного зрения, обученные на ассиметричных данных, распознают женщин и людей с тёмным цветом кожи хуже, чем белых мужчин.

С проблемой необъективности связано и слабое разнообразие в изучении ИИ: женщины занимают в лучшем случае 30% рабочих мест и менее 25% преподавательских должностей в ведущих университетах.

Результаты исследования MIT Media Lab

Чего ожидать в 2019 году: появление алгоритмов обнаружения и преодоления необъективности, вывода точных данных из данных необъективных. Одна из главных международных конференций по машинному обучению пройдёт в 2020 году в Эфиопии, так как африканские учёные, изучающие предрассудки в данных, могут столкнуться с проблемами при получении виз.

#технологии

{ "author_name": "Kirill Kazakov", "author_type": "editor", "tags": ["\u0442\u0435\u0445\u043d\u043e\u043b\u043e\u0433\u0438\u0438"], "comments": 52, "likes": 28, "favorites": 27, "is_advertisement": false, "subsite_label": "future", "id": 55506, "is_wide": false, "is_ugc": false, "date": "Sun, 27 Jan 2019 14:37:10 +0300" }
{ "id": 55506, "author_id": 127882, "diff_limit": 1000, "urls": {"diff":"\/comments\/55506\/get","add":"\/comments\/55506\/add","edit":"\/comments\/edit","remove":"\/admin\/comments\/remove","pin":"\/admin\/comments\/pin","get4edit":"\/comments\/get4edit","complain":"\/comments\/complain","load_more":"\/comments\/loading\/55506"}, "attach_limit": 2, "max_comment_text_length": 5000, "subsite_id": 199118, "possessions": [] }

52 комментария 52 комм.

Популярные

По порядку

Написать комментарий...
15

Аварии с беспилотными автомобилями

Все произошли по вине людей в других автомобилях.

Но будем продолжать доить субъективные страхи перед лицом прогресса, прямо как в средние века.

Ответить
3

Да и те что с пешеходами по вине пешеходов. Можно свести до абсурда что кто то спрыгнет на беспилотное авто с моста и умрет, но ор поднимут будто бы это вина беспилотника.

Ответить
0

До абсурда довести можно что угодно. Проблема не в этом.
Автомату позволяют автономно принять решение кого оставить в живых, а кого задавить. Вот это опасно.

Ответить
9

Чем же опасней чем человеку? Как раз таки машина принимает решение на основе логики, а человек в схожей ситуации либо на основе эмоций либо на основе случая, куда руль в панике дёрнет.
Потому что на большой скорости и в стрессовой ситуации тяжело заметить всех участников движения и принять рациональное решение, при это автомобилю с компьютером и камерами как минимум банально посчитать "фраги" проще, а при наличии бОльшей мощности и бОльшей сложности алгоритмов уже и проанализировать более глубинные вещи, как из тех моральных задач, кого задавить, мать с ребенком или трёх более чем взрослых людей.
Другое дело что при полной автоматизации единственным источником опасности на улицах останутся пешеходы нарушающие ПДД и этот вопрос перестанет быть актуальным

Ответить
2

Опасно тем, что за действия человека несет ответственность сам человек.
Кто несет ответственность за действия автомата?

"Просчитать фраги"? Ну окей. Вы согласны с тем, что автомат через ошибку в алгоритме просчитает вас как меньшую из потерь и задавит/покалечит на переходе?
Кто должен нести ответственность за такие ошибки, как считаете?
А кто сейчас несет за них ответственность?

Ответить
3

Опасно тем, что за действия человека несет ответственность сам человек.

Кто несет ответственность за действия автомата?

Вопрос ответственности - сейчас самый главный в AI отрасли.

Признать ответственным владельца беспилотника? Но ведь не он принимал решение, а AI.

Признать ответственным сам AI? Это значит признать, что AI личность. Это повлечет за собой еще больше вопросов и дискуссий.

Нужно время и постоянные обсуждения в обществе, чтобы найти компромиссное решение.

Ответить
0

А что толку от того что человек понесёт ответственность чисто для меня? Допустим я погибну в результате аварии. Мне уже будет пофиг на то отсидит ли человек в тюрьме и заплатит ли компенсацию моим близким.
В случае автопилота я так же будучи мертвым буду вполне "доволен" компенсацией от производителя. К тому же уже давно есть прецеденты в случаях когда доказывается косвенная причина аварии по вине производителя, тут нет ничего нового.
Да и мы обсуждаем те вещи которых не должно быть. Номинанты на премию Дарвина будут всегда, и смерть будет по их вине а не автопилота.
Автопилот не нарушает ПДД, причиной аварии (почти) всегда будет только человеческий фактор либо непреодолимая сила, например брёвна соскочили с большегруза как в известном фильме, либо условный кирпич на дорогу упал. И это либо пешеходы, либо оставшиеся водители-люди.

Ответить
0

Опасность в том, что принципы деятельности нашей цивилизации с логикой НИКОЙ связи не имеют, потому успехи ИИ или минимальны или сильно ограничены в сферах использования.
Очередной хайп закончиться как и все предыдущие.

Ответить
2

Мы уже поняли что ты нео-луддит по ветке с "едой из воздуха", можешь закончить свою пропаганду.

Ответить
–6

ну, а ты модерновый хайпер, можешь продолжать позориться со своим "пониманием" ситуации на Земле

Ответить
2

Можешь переезжать к Стерлингову, вместе морально унижать колдунов-учёных и печь хлеб по 1000 рублей килограмм. Такой же профанский ответ в твою область. Хочешь показать свою картину мира напиши статью сюда, и посмотришь на реакцию общественности. А эти высеры про "понимание" оставь себе. Ты же хочешь просветить так просвети, а пока мне как то не особо верится в твою картину мира, собираемую по крупицам из комментариев.

Ответить
–3

С чего ты решил, что тебя в принципе можно просветить. Ржу, аж падаю.
Продолжай.
Про твои "верится-хочется", я тут как раз чтобы постебаться над тебе подобными и дать рекомендации коллегам.

Ответить
2

А что за коллеги, если не секрет? Городские сумасшедшие или профессиональные тролли?

Ответить
7

Я скорее доверю свою жизнь машине, чем случайному человеку, у которого мало того что может не быть мозгов, так может быть субъективная причина навредить. Чем больше людей это поймут - тем безопаснее станет. Полное исключение человеческого фактора на дорогах в купе с автоматической хирургически точной системой контроля движения создаст безаварийное передвижение.
Сейчас же ваша жизнь в руках потенциальных наркоманов, алкашей, эпилептиков, школьников с комплексами самоутверждения и прочих.

Ответить
0

тебе есть дело до чужих разборок?

Ответить
0

Каких разборок?

Ответить
–7

Попрбуй свои минусы себе в задницу засунуть, тогда голова светлей и больше понимания.

Ответить
–5

Открытые комментарии на открытой площадке, о чём вы вообще? Вы не в привате

Ответить
1

тебе есть дело до чужих разборок? нам будет дело до тебя в целом, а ты о чем? открытый инет - что хотим, то и воротим

Ответить
–5

Обиженки из других веток подъехали =)

Ответить
0

Чем студент-говнокодер отличается от случайного человека?

Ответить
–1

Своим существованием.

Ответить
0

И кого из этих персонажей сказочный?

Ответить
2

В ДТП в большинстве случаев виноваты двое. А если второй не виноват, то он мог предотвратить аварию, если бы был умнее, опытнее, быстрее (мозгом) и так далее. И мы говорим про вину не по ПДД. С пешеходами почти то же самое, но там они реально многие ведут себя как бессмертные, выпрыгивают непонятно откуда и там даже опытный водитель ничего не сделает.

Ответить
1

и там даже опытный водитель ничего не сделает.

Если движется с правильной городской скоростью - сделает.

Ответить
3

Нет. В темноте, в гололёд, снегопад, когда пешик выскочит из неоткуда, ты ничего не успеешь сделать. Ты может его не собъешь, сможет уйти, но скорее всего прилетишь или в сугроб или в другое авто. Иногда заранее притормаживая перед ПП, ты видишь, что никто не идёт, но только тебе стоит подъехать, он ВЫСКАКИВАЕТ ИЗ-ЗА СУГРОБА.

Ответить
1

Согласнл пдд скорость должна соответствовать дорожным условиям. Ездя по гололеду 60 км час вы нарушаете пдд. Хотя вас и не будут штрафовать, в камеры гололед не прописан.

Ответить
1

Где я про 60 км написал? 40 и даже меньше км достаточно, чтобы гололёд внёс свои коррективы в ситуацию.

Ответить
0

Какой пункт правил я нарушаю, когда двигаюсь в гололед по населенному пункту со скоростью 60км/ч?

Ответить
0

Есть такой пункт в Пдд.

Ответить
0

Это какой? Можно озвучить?

Ответить
0

Неудобно телефоном искать. Суть в том, что водитель должен выбирать безопасную скорость соответственно погодным умловиям

Ответить
0

Есть такое. Но про ограничение скорости до конкретных цифр там не говорится.

Ответить
0

Устроиться манекеном для теста беспилотников нет желания?

Ответить
–1

Зачем мне это? Но очень жду когда мне не придется садиться за руль, чтобы доехать до места назначения.

Ответить
0

Это я к тому, что вы чересчур уверенны в беспилотниках. А так мне бы тоже хотелось не сидеть за рулем, но увы и ах - не в этой жизни.

Ответить
–1

Я уверен в том, что это куда более безопасный способ передвижения. Но для этого нужно полностью убрать людей с дорог.

Ответить
0

Если честно - я бы их вообще убрала...

Ответить
–1

Фашист детектед

Ответить
9

поэтому ещё одна серьёзная авария в 2019 году может изменить отношение властей

Лучше бы отношение властей изменило то что люди миллионами во всем мире гибунут в авариях среди людей-пилотов. Тут наоборот надо как можно скорее запрещать людям управлять автомобилями, и тогда смертей станет меньше.
А в аварии с убером на 80% вина пешехода, кто говорил что переходить ночью трассу в неположенном месте безопасно? Уже тысячу раз разбирали что все было против пешехода. Да и авто двигалось 61 км/ч и светило фарами. КАК такое можно не увидеть если ты не конч который не умеет переходить дорогу?

Ответить
1

Я думаю, производители беспилотников сейчас накопят статистику аварийности и заткнут всем рот, показав, что аварийность на беспилотниках в несколько раз ниже, чем с живыми людьми.

Ответить
1

Она и так общедоступна и этот вывод очевиден любому носителю мозга. Но и в случае закручивания гаек естественно будет применяться в защиту беспилотников их производителями.

Ответить
1

Насколько я знаю, данных пока мало. Эти беспилотники катаются пару лет максимум и в единичных экземплярах. Данные статистически нерепрезентативны.

Ответить
1

"Тесел" с автопилотами сотни тысяч на дорогах, и уже накоплено достаточно информации. Пусть на ней автопилоты не полные и не заменяют человека до конца, но аварий с ними уже было много. Большинство, ожидаемо, не по их вине

Ответить
0

запрещать людям управлять автомобилями, и тогда смертей станет меньше.

сомнительно

Ответить
0

В военных конфликтах и на дорогах гибнет сравнимое количество людей. Поэтому скорейшее внедрении ИИ и роботов в военную сферу также на благо человечества, пока не научимся жить в мире

Ответить
0

роботов в военную сферу

Вы не задумывались что это приведет к геноциду людей с такими технологиями по отношению к людям без нее, банальное техническое превосходство? И такой дисбаланс в современном мире - не есть хорошо, и точно никак не на благо?

Ответить
0

Задумывался. И пришёл к выводу что геноцид это чисто человеческое изобретение. И технологии или превосходство тех или иных групп людей над другими не сильно на это влияют

Ответить
0

TL; DR никаких

Ответить
0

Есть же автономная техника: лифты, поезда метро, и там вопрос ответвенности решен. Почему из AI делают такую большую проблему - непонятно.
В конце концов: был случай с Тойотой и педалью газа которая залипала и даже один человек погиб (хотя он сам по моему был клиническим идиотом). Ну разобрались же кто виноват и кому нести отвественность. Чем AI встроенный в машину отличается от электронной педали газа, с точки зрения закона?

Ответить
0
{ "page_type": "article" }

Прямой эфир

[ { "id": 1, "label": "100%×150_Branding_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox_method": "createAdaptive", "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfl" } } }, { "id": 2, "label": "1200х400", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfn" } } }, { "id": 3, "label": "240х200 _ТГБ_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fizc" } } }, { "id": 4, "label": "240х200_mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "flbq" } } }, { "id": 5, "label": "300x500_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfk" } } }, { "id": 6, "label": "1180х250_Interpool_баннер над комментариями_Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "ffyh" } } }, { "id": 7, "label": "Article Footer 100%_desktop_mobile", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjxb" } } }, { "id": 8, "label": "Fullscreen Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjoh" } } }, { "id": 9, "label": "Fullscreen Mobile", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjog" } } }, { "id": 10, "disable": true, "label": "Native Partner Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyb" } } }, { "id": 11, "disable": true, "label": "Native Partner Mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyc" } } }, { "id": 12, "label": "Кнопка в шапке", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "bscsh", "p2": "fdhx" } } }, { "id": 13, "label": "DM InPage Video PartnerCode", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox_method": "createAdaptive", "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "flvn" } } }, { "id": 14, "label": "Yandex context video banner", "provider": "yandex", "yandex": { "block_id": "VI-223676-0", "render_to": "inpage_VI-223676-0-1104503429", "adfox_url": "//ads.adfox.ru/228129/getCode?pp=h&ps=bugf&p2=fpjw&puid1=&puid2=&puid3=&puid4=&puid8=&puid9=&puid10=&puid21=&puid22=&puid31=&puid32=&puid33=&fmt=1&dl={REFERER}&pr=" } }, { "id": 15, "label": "Плашка на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byudx", "p2": "ftjf" } } }, { "id": 16, "label": "Кнопка в шапке мобайл", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byzqf", "p2": "ftwx" } } }, { "id": 17, "label": "Stratum Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvb" } } }, { "id": 18, "label": "Stratum Mobile", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvc" } } }, { "id": 19, "label": "Тизер на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "p1": "cbltd", "p2": "gazs" } } } ]
Голосовой помощник выкупил
компанию-создателя
Подписаться на push-уведомления
{ "page_type": "default" }