Мнения
Роман Нестер

«Хватит уже называть всё подряд искусственным интеллектом!»

Бомбануло у одного из известнейших исследователей в области машинного обучения, Майкла Джордана из университета Беркли. Он один из самых влиятельных computer scientist и участник и лидер самых важных сообществ в области ИИ.

Джордан — тот кто развил область обучения без подкрепления (unsupervised learning) и ввёл LDA в обиход. Это прям интересно, когда такая глыба неожиданно выступает с такой жесткой критикой.

Я изучил его заявления в рамках разработки своего курса для магистратуры ВШЭ по управлению продуктом и маркетингом на основе данных, делюсь пересказом с вами.

Вольное изложение его мыслей:

- Джордан критикует книги, рассуждающие про то, что же мы будем делать с появлением общего ИИ, и журналистов, поддерживающих эти темы. Разговоры про супер-интеллект и ИИ, мол, забавны, но они очень отвлекают от реальной проблемы. И не только широкую публику, но и самих учёных!

- Главная цель — развивать «вертикальные» системы машинного обучения и внедрять их по всему миру. Мы заняты сейчас не этим. Джордан называет их «Искуственная инфраструктура» вместо «Искусственный интеллект»

- Трёп про «компьютер, который станет разумным как человек» увлекает, но это идея шестидесятых. Сейчас мы разрабатываем вовсе не такие системы, мы невероятно далеки от них. Мы сейчас делаем дополнения человеческим возможностям и это и есть задача на ближайшие годы

- «Реальный ИИ» должен заниматься распознаванием низкоуровневых паттернов в нашей жизни, он делает это лучше человека. В финансах, производстве, здравоохранении. Именно это и есть цель и задача учёных.

- В интеллектуальной среде стало беспонтово быть «инженером» чего-то, например термин «социальный инжиниринг» несёт негативный оттенок. А вот как раз инжинирингом нам-то и надо заниматься. А все назвались «учёными». А ведь всё что реально улучшило жизнь людей в последние сто лет было именно инжинирингом.

- Цель создания систем AI/ML не просто в обработке данных, но в создании новых цепочек, соединении новых покупателей и продавцов, в создании совершенно новых рынков

- Всё что сейчас называют AI им не является, не способно к высокуровневой постановке целей и мышлению. Почти всегда AI называют машинное обучение, которому десятки лет.

- Прикольные «ИИ» создающие музыку, тексты, генерящие речь — просто дополнение к способностям человека, не шаг к реальному ИИ. Это хайп, который отвлекает от полезных целей.

- Имитирующий человека ИИ это заблуждение. Мы должны не пытаться сделать замену мясному мешку за рулём машины, а сделать системы вроде роботизированной диспетчерской башни в аэропорту, но для автотрафика

- В конце концов у нас есть шанс сделать разработку и инжиниринг — человекоцентричными, пытаясь поставить идеи счастья человека. Сейчас эта идея вовсе не в центре разработки технологий. И у неё нет названия, говорит Джордан.

Лично мне очень понравились его мысли, а в особенности идея про человекоцентричность. Эта идея лежит на грани технологий и этики, раскрывается мало и часто сваливается либо в левую чушь, либо в алармизм. Моя собственная цель в ближайшее время заниматься больше вопросом этики технологий и использования данных.

{ "author_name": "Роман Нестер", "author_type": "self", "tags": [], "comments": 32, "likes": 10, "favorites": 27, "is_advertisement": false, "subsite_label": "opinions", "id": 236323, "is_wide": false, "is_ugc": true, "date": "Tue, 20 Apr 2021 13:08:38 +0300", "is_special": false }
0
32 комментария
Популярные
По порядку
Написать комментарий...
3

Классический флейм про термины. Да, в обывательский оборот порой входят термины, которые неправильно отражают суть вещей. Интеллект - который не интеллект. Социальная дистанция - которая физическая, или максимум - дистанция среди публики. Ксерокс - который просто один из производителей копиров. И так далее.

Ответить
0

Не файлик,а мультифора

Ответить
0

ДА!

Ответить
2

"Бомбануло" - громковато сказано

Ответить
1

Учёные обычно ОЧЕНЬ сдержаны в формулировках. Когда так говорит такое светило, то это уже очень яркий тон.

Ответить
0

Ученые очень осторожны в тезисах по сути вопросов своей специальности - потому что они понимают и привыкли обосновывать их. Здесь же половина контента - это оценки, которые могут быть какими угодно - субъективные же!

Ответить
0

Ну давайте так, я всё-таки пересказ эмоционально усилил, чтобы было понятно о чём речь. Но смысл в них именно такой, можно проверить в первоисточнике

Ответить
2

Абсолютно верно.До ИИ нужно кодифицировать этику ИИ.До этики ИИ,необходимо разобраться с этикой агрегации.

Ответить
0

Этика агрегации данных, вы об этом?

Ответить
1

Это чтобы было понятно.Шире речь идет о кодификации изменений происходящих в ноосфере в целом,а особенно того,что можно охарактеризовать как незаконную приватизацию ресурсов поиска,внимания,веры,доверия И так далее итп.Сегодня это вполне конкретные и считаемые ресурсы.Вот прям как частотный ресурс в связи.

Ответить
0

Ну почему незаконную, незаконная это скорее когда государство собирает с вас лицо при входе в метро, не спросив разрешения. А когда вы пользуетесь удобным сервисом, а он за это вас таргетирует - это обмен. 

Ответить
0

Я не о таргетировании,я о агрегации.
Просто попробуйте хоть с чем нибудь выбраться хоть в какие нибудь позиции ,хоть в каком нибудь поиске бесплатно и без пессимизации.
Не говоря уже о медиа.
Это мы ,как общество не продавали и не обменивали.Просто у нас это украли.

Ответить
1

Автор перевода абсолютно не в теме терминологии.  А еще, передовая отрасль ИИ machine learning до сих пор имеет ошибочное название на русском. Просто поразительно!! Кому невдомёк обратитесь к теориям усвоения знаний (learning theories), откуда и пошла есть сия практическая дисциплина вместе с ИИ.

Ответить
1

Да, с unsupervised я промахнулся в спешке, если вы об этом. А где ещё ошибки, подскажете? Раз уж я _абсолютно_ не в теме)

Ответить
0

AI, ИИ и прочее, ладно, это разговор о терминах.
Но вот зацепила меня рекламная фраза - "по управлению продуктом и маркетингом на основе данных", скажите, если не на основе данных управлять, то на чем, на какой основе? На эмоциях, телепатия или предикции? Что порекомендуете? 

Ответить
3

На основе «задания начальника».

Ответить
1

Спасибо за такое внимание. Корпоративная практика говорит о том, что управление крайне часто происходит на основе интуиции, на основе неполной картины событий, или на основе копирования решений конкурентов. Данные - это проверка и аргументация.

Ответить
1

я бы обобщил "хватит называть всё подряд интеллектом"

Ответить
0

все так)

Ответить
0

как бы всё оно очевидно крайне.
кроме "человекоцентричности"
я не очень понимаю - что имеется в виду.

Ответить
0

Думаю, что имеются ввиду задачи, полезные для человека в целом, а не конкретных структур, будь то корпорации или государство. Именно между ними и человеком возникает этический вопрос, когда данные могут быть использованы против самого человека

Ответить
0

задача полезная для человека в целом, а не для корпорации, это как бы разделение сегментов b2b / b2c
то есть как бы здесь имеется в виду, что нужно добавить в осмысление продукта b2c этическую составляющую?

Ответить
0

Антропоцентричность. 

Ответить
0

Спасибо, больше подходит

Ответить
0

Хорошо. Не буду обострять и если был резок, то беру слова обратно. Так вот. К делу.
Усвоение (learning) - это процесс приобретения новых знаний, смыслов и поведения. Способностью учиться обладают люди, животные и некоторые машины. Достижения в области machine learning не в малой степени опираются на многолетние исследования в области теорий усвоения знаний (learning theories), предметом изучения которых является процесс формирования и усвоения знаний животными (animal learning) и человеком (human learning). Практическая подобласть ИИ под названием «machine learning», в отличие от теорий усвоения знаний, нацелена на отыскание методов, с помощью которых машины могли бы усваивать знания автоматически без вмешательства человека, что и следует из классического определения данного термина. Из всего вышесказанного непосредственно вытекает один важный терминологический вывод. Говоря machine learning, мы имеем в виду именно усвоение знаний машиной. И поэтому, судя по всему, указанный термин должен переводиться как машинное усвоение. Точка. 
Теперь по поводу reinforcement learning. Ричард Саттон строил свой алгоритм, моделируя усвоение знаний путем проб и ошибок, заимствовав идею подкрепления из бихейвиористской психологии, где оно означает стимул, побуждающий ученика приспосабливать свое поведение в окружающей среде. Данный алгоритм заключается в том, что ученик максимизирует подкрепление (стимул, "морковку"), по сути являясь гедонистическим). Поэтому он должен переводиться как "усвоение стимула", ну или на худой конец "усвоение с подкреплением".

Ответить
0

Спасибо за развёрнутый ответ. Встречный вопрос - а поиск и определение паттернов в данных это процесс усвоения знания? 

Ответить
0

Кстати, из этого следует, что инженеры МО модели не "обучают", а тренируют, т.к. в основе лежит алгоритм (автоматического) усвоения.

Ответить
0

для patterns у нас есть слова закономерность, регулярность и шаблон. Паттерн -, это пустой термин. Бритва Оккама в помощь. 

Ответить
0

модель усваивает закономерности из данных на основе алгоритма усвоения, поэтому ответ да

Ответить
0

хотя есть еще data mining, и там занимаются прохожими вещами, но несколько другими методами, к тому же термин появился еще до машинного усвоения как подобласти ии

Ответить
0

Если не обозвать утюг инновационным, то его дорого не продать. Также и искусственный интеллект. Звонилку назвали же умным телефоном - смартфоном, и никто не возмущается. Так и к ИИ привыкнут.

Ответить
0

Поддерживаю, у меня у самого крайне негативная реакция когда тупой алгоритм начинают называть искусственным интеллектом, даже не нейронную сеть а алгоритм...
Я лично уже обоснованно сомневаюсь в наличии натурально интеллекта у всех кто что-то называет искусственным интеллектом!
Искусственного интеллекта ещё нет, есть машинное обучение или нейронные сети!

Ответить

Комментарии

null