«Хватит уже называть всё подряд искусственным интеллектом!»

Бомбануло у одного из известнейших исследователей в области машинного обучения, Майкла Джордана из университета Беркли. Он один из самых влиятельных computer scientist и участник и лидер самых важных сообществ в области ИИ.

Джордан — тот кто развил область обучения без подкрепления (unsupervised learning) и ввёл LDA в обиход. Это прям интересно, когда такая глыба неожиданно выступает с такой жесткой критикой.

Я изучил его заявления в рамках разработки своего курса для магистратуры ВШЭ по управлению продуктом и маркетингом на основе данных, делюсь пересказом с вами.

Вольное изложение его мыслей:

- Джордан критикует книги, рассуждающие про то, что же мы будем делать с появлением общего ИИ, и журналистов, поддерживающих эти темы. Разговоры про супер-интеллект и ИИ, мол, забавны, но они очень отвлекают от реальной проблемы. И не только широкую публику, но и самих учёных!

- Главная цель — развивать «вертикальные» системы машинного обучения и внедрять их по всему миру. Мы заняты сейчас не этим. Джордан называет их «Искуственная инфраструктура» вместо «Искусственный интеллект»

- Трёп про «компьютер, который станет разумным как человек» увлекает, но это идея шестидесятых. Сейчас мы разрабатываем вовсе не такие системы, мы невероятно далеки от них. Мы сейчас делаем дополнения человеческим возможностям и это и есть задача на ближайшие годы

- «Реальный ИИ» должен заниматься распознаванием низкоуровневых паттернов в нашей жизни, он делает это лучше человека. В финансах, производстве, здравоохранении. Именно это и есть цель и задача учёных.

- В интеллектуальной среде стало беспонтово быть «инженером» чего-то, например термин «социальный инжиниринг» несёт негативный оттенок. А вот как раз инжинирингом нам-то и надо заниматься. А все назвались «учёными». А ведь всё что реально улучшило жизнь людей в последние сто лет было именно инжинирингом.

- Цель создания систем AI/ML не просто в обработке данных, но в создании новых цепочек, соединении новых покупателей и продавцов, в создании совершенно новых рынков

- Всё что сейчас называют AI им не является, не способно к высокуровневой постановке целей и мышлению. Почти всегда AI называют машинное обучение, которому десятки лет.

- Прикольные «ИИ» создающие музыку, тексты, генерящие речь — просто дополнение к способностям человека, не шаг к реальному ИИ. Это хайп, который отвлекает от полезных целей.

- Имитирующий человека ИИ это заблуждение. Мы должны не пытаться сделать замену мясному мешку за рулём машины, а сделать системы вроде роботизированной диспетчерской башни в аэропорту, но для автотрафика

- В конце концов у нас есть шанс сделать разработку и инжиниринг — человекоцентричными, пытаясь поставить идеи счастья человека. Сейчас эта идея вовсе не в центре разработки технологий. И у неё нет названия, говорит Джордан.

Лично мне очень понравились его мысли, а в особенности идея про человекоцентричность. Эта идея лежит на грани технологий и этики, раскрывается мало и часто сваливается либо в левую чушь, либо в алармизм. Моя собственная цель в ближайшее время заниматься больше вопросом этики технологий и использования данных.

0
32 комментария
Написать комментарий...
Denis Kiselev

Классический флейм про термины. Да, в обывательский оборот порой входят термины, которые неправильно отражают суть вещей. Интеллект - который не интеллект. Социальная дистанция - которая физическая, или максимум - дистанция среди публики. Ксерокс - который просто один из производителей копиров. И так далее.

Ответить
Развернуть ветку
Алексей Новиков

Не файлик,а мультифора

Ответить
Развернуть ветку
Monoflash

ДА!

Ответить
Развернуть ветку
Герман Анортосис

"Бомбануло" - громковато сказано

Ответить
Развернуть ветку
Роман Нестер
Автор

Учёные обычно ОЧЕНЬ сдержаны в формулировках. Когда так говорит такое светило, то это уже очень яркий тон.

Ответить
Развернуть ветку
Denis Kiselev

Ученые очень осторожны в тезисах по сути вопросов своей специальности - потому что они понимают и привыкли обосновывать их. Здесь же половина контента - это оценки, которые могут быть какими угодно - субъективные же!

Ответить
Развернуть ветку
Роман Нестер
Автор

Ну давайте так, я всё-таки пересказ эмоционально усилил, чтобы было понятно о чём речь. Но смысл в них именно такой, можно проверить в первоисточнике

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Роман Нестер
Автор

Этика агрегации данных, вы об этом?

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Роман Нестер
Автор

Ну почему незаконную, незаконная это скорее когда государство собирает с вас лицо при входе в метро, не спросив разрешения. А когда вы пользуетесь удобным сервисом, а он за это вас таргетирует - это обмен. 

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Андрей Логунов

Автор перевода абсолютно не в теме терминологии.  А еще, передовая отрасль ИИ machine learning до сих пор имеет ошибочное название на русском. Просто поразительно!! Кому невдомёк обратитесь к теориям усвоения знаний (learning theories), откуда и пошла есть сия практическая дисциплина вместе с ИИ.

Ответить
Развернуть ветку
Роман Нестер
Автор

Да, с unsupervised я промахнулся в спешке, если вы об этом. А где ещё ошибки, подскажете? Раз уж я _абсолютно_ не в теме)

Ответить
Развернуть ветку
Ilya Tkachenko

AI, ИИ и прочее, ладно, это разговор о терминах.
Но вот зацепила меня рекламная фраза - "по управлению продуктом и маркетингом на основе данных", скажите, если не на основе данных управлять, то на чем, на какой основе? На эмоциях, телепатия или предикции? Что порекомендуете? 

Ответить
Развернуть ветку
Andrey Zaynulin

На основе «задания начальника».

Ответить
Развернуть ветку
Роман Нестер
Автор

Спасибо за такое внимание. Корпоративная практика говорит о том, что управление крайне часто происходит на основе интуиции, на основе неполной картины событий, или на основе копирования решений конкурентов. Данные - это проверка и аргументация.

Ответить
Развернуть ветку
Andrew Simon

я бы обобщил "хватит называть всё подряд интеллектом"

Ответить
Развернуть ветку
Marchello V. Avetti

все так)

Ответить
Развернуть ветку
Kirk Louson

как бы всё оно очевидно крайне.
кроме "человекоцентричности"
я не очень понимаю - что имеется в виду.

Ответить
Развернуть ветку
Алексей Иванов

Думаю, что имеются ввиду задачи, полезные для человека в целом, а не конкретных структур, будь то корпорации или государство. Именно между ними и человеком возникает этический вопрос, когда данные могут быть использованы против самого человека

Ответить
Развернуть ветку
Kirk Louson

задача полезная для человека в целом, а не для корпорации, это как бы разделение сегментов b2b / b2c
то есть как бы здесь имеется в виду, что нужно добавить в осмысление продукта b2c этическую составляющую?

Ответить
Развернуть ветку
Алексей Сугоняев

Антропоцентричность. 

Ответить
Развернуть ветку
Роман Нестер
Автор

Спасибо, больше подходит

Ответить
Развернуть ветку
Андрей Логунов

Хорошо. Не буду обострять и если был резок, то беру слова обратно. Так вот. К делу.
Усвоение (learning) - это процесс приобретения новых знаний, смыслов и поведения. Способностью учиться обладают люди, животные и некоторые машины. Достижения в области machine learning не в малой степени опираются на многолетние исследования в области теорий усвоения знаний (learning theories), предметом изучения которых является процесс формирования и усвоения знаний животными (animal learning) и человеком (human learning). Практическая подобласть ИИ под названием «machine learning», в отличие от теорий усвоения знаний, нацелена на отыскание методов, с помощью которых машины могли бы усваивать знания автоматически без вмешательства человека, что и следует из классического определения данного термина. Из всего вышесказанного непосредственно вытекает один важный терминологический вывод. Говоря machine learning, мы имеем в виду именно усвоение знаний машиной. И поэтому, судя по всему, указанный термин должен переводиться как машинное усвоение. Точка. 
Теперь по поводу reinforcement learning. Ричард Саттон строил свой алгоритм, моделируя усвоение знаний путем проб и ошибок, заимствовав идею подкрепления из бихейвиористской психологии, где оно означает стимул, побуждающий ученика приспосабливать свое поведение в окружающей среде. Данный алгоритм заключается в том, что ученик максимизирует подкрепление (стимул, "морковку"), по сути являясь гедонистическим). Поэтому он должен переводиться как "усвоение стимула", ну или на худой конец "усвоение с подкреплением".

Ответить
Развернуть ветку
Роман Нестер
Автор

Спасибо за развёрнутый ответ. Встречный вопрос - а поиск и определение паттернов в данных это процесс усвоения знания? 

Ответить
Развернуть ветку
Андрей Логунов

Кстати, из этого следует, что инженеры МО модели не "обучают", а тренируют, т.к. в основе лежит алгоритм (автоматического) усвоения.

Ответить
Развернуть ветку
Андрей Логунов

для patterns у нас есть слова закономерность, регулярность и шаблон. Паттерн -, это пустой термин. Бритва Оккама в помощь. 

Ответить
Развернуть ветку
Андрей Логунов

модель усваивает закономерности из данных на основе алгоритма усвоения, поэтому ответ да

Ответить
Развернуть ветку
Андрей Логунов

хотя есть еще data mining, и там занимаются прохожими вещами, но несколько другими методами, к тому же термин появился еще до машинного усвоения как подобласти ии

Ответить
Развернуть ветку
Alexandr Svetlov

Если не обозвать утюг инновационным, то его дорого не продать. Также и искусственный интеллект. Звонилку назвали же умным телефоном - смартфоном, и никто не возмущается. Так и к ИИ привыкнут.

Ответить
Развернуть ветку
Monoflash

Поддерживаю, у меня у самого крайне негативная реакция когда тупой алгоритм начинают называть искусственным интеллектом, даже не нейронную сеть а алгоритм...
Я лично уже обоснованно сомневаюсь в наличии натурально интеллекта у всех кто что-то называет искусственным интеллектом!
Искусственного интеллекта ещё нет, есть машинное обучение или нейронные сети!

Ответить
Развернуть ветку
29 комментариев
Раскрывать всегда