Кого заменят роботы II

или Анатомия страха перед роботизацией

В последнее время новый виток разговоров о самобеглых колясках и других потенциальных достижениях искусственного интеллекта снова поставил один из классических вопросов человечества: кто же останется на обочине монорельсовой дороги очередной технологической революции? В первой части цикла мы начали “от печки”, от луддитов, и обсудили влияние автоматизации на несколько профессий, которые в результате действительно сильно изменились, а то и исчезли. Сегодня мы сначала обсудим более творческую часть спектра, а потом посмотрим, откуда происходит сегодняшняя волна страхов перед автоматизацией.

Творческие профессии

Все обучающие машины будут иметь прямую связь с планетарной библиотекой и смогут получить в своё распоряжение любую книгу, периодическое издание, документ, звуковую или видеозапись в закодированном виде. Дальше ученик либо увидит интересующий его материал на экране, либо получит в распечатанном виде на бумаге, чтобы иметь возможность изучить его потом, в более спокойной обстановке.

Айзек Азимов, Новые учителя (1976)
Из заставки сериала "Westworld"

В первой части мы обсудили, как всеобщая автоматизация проходила в прошлом, начиная от боровшихся против первой индустриализации луддитов и заканчивая исчезнувшими профессиями лифтёра и вычислителя. Мы увидели, что до сих пор автоматизация разных профессий обычно оказывалась не полной, а частичной, что часто не просто не приводило к сокращению, а даже повышало спрос на соответствующих специалистов.

Обычно частичная автоматизация трансформирует профессию в сторону большей “человечности”, большего творческого содержания. Но что с профессиями, которые уже были творческими? Сокращает ли автоматизация в наше время творческие рынки?

Давайте для примера посмотрим на профессию музыканта. В XIX веке, в отсутствие звукозаписывающих технологий, спрос на музыкантов был стабильным: если вы хотели послушать музыку в хорошем исполнении, вам нужен был живой музыкант, а для более масштабных вещей – мини-оркестр. У приличного музыканта всегда была работа, и это распространялось не только на исполнителей, но даже на композиторов: Иоганн Себастьян Бах по контракту с церковью Святого Фомы в Лейпциге был обязан писать новую кантату каждую неделю, буквально any given Sunday. А церковь соседнего Магдебурга давала работу другому композитору, и для этого тому не обязательно было быть не хуже Баха.

Однако в начале XX века люди начали слушать музыку на граммофонах, а после появления звукового кино даже таперы потеряли актуальность. В наше время и в Лейпциге, и в Магдебурге играют всё того же Баха, и любой может послушать, например, вариации Гольдберга совершенно бесплатно, в блестящем исполнении и на инструментах, которые Баху и не снились (современный рояль совсем не похож на клавиры того времени; впрочем, найти записи на “оригинальном” инструменте тоже труда не составляет).

Значит ли это, что спрос на профессию музыканта исчез, и теперь все потребности в новой музыке обеспечивает десяток композиторов и десяток оркестров на весь мир, а всю остальную работу делает массовое тиражирование (которое, по той же логике, тоже должно быть сосредоточено в руках нескольких больших лейблов)? Вовсе нет: музыкантов – и композиторов, и исполнителей – стало только больше! Современное развитие технологий (не только звукозаписи, но и связи) позволило самым разнообразным музыкантам найти свою аудиторию, расцвели все цветы, и теперь музыкой может прокормиться гораздо больше людей, чем раньше. Верхушка этой пирамиды зарабатывает куда больше, чем князь Леопольд Ангальт-Кётенский, бывший одно время патроном всё того же Иоганна Себастьяна, но и “средний класс” вовсе не бедствует. Более того, даже прогнозы о числе рабочих мест весьма благоприятны. Причём это касается и исполнителей: звукозапись не убила “ненужных” музыкантов, а наоборот, позволила большему числу людей узнать о них, подняв спрос на живые концерты.

То же касается и других творческих профессий. Меня это даже немного удивляет: мы можем бесплатно скачать почти любую книгу, хороших книг на вкус любого читателя уже заведомо хватит на всю его жизнь, однако сотни тысяч авторов во всём мире пишут и успешно продают свои произведения, причём не только в новых жанрах (можно поверить, что любителю слэш-фанфиков трудно удовлетвориться Достоевским – хотя...), но и во вполне традиционных.

Но довольно истории. Давайте теперь поговорим о том, кого, собственно, планируется заменить роботами в ближайшем будущем, и почему этого не стоит сильно опасаться.

Угроза или благо?

До чего дошел прогресс – труд физический исчез,

Да и умственный заменит механический процесс.

Позабыты хлопоты, остановлен бег,

Вкалывают роботы, а не человек.

Юрий Энтин, Из к/ф "Приключения Электроника"
Лицо дальнобойщика (New England Journal of Medicine)

Лифтёры, вычислители и ткачи прекрасно символизируют те виды деятельности, которые автоматизировались до сих пор: технический труд, где ожидается максимально точное соответствие выхода некоторым заданным параметрам, а творчество не просто затруднено, но запрещено и действительно вредно. Конечно, лифтёр мог улыбнуться своим пассажирам, а девушка-компьютер могла, презрев потенциальный ущерб для репутации, познакомиться с самим Ричардом Фейнманом. Но их функция была в том, чтобы максимально точно выполнять чёткие, алгоритмически заданные действия.

Позволю себе немного эмоций: это именно те виды деятельности, которые нужно обязательно автоматизировать и дальше! Нет ничего человеческого в том, чтобы следовать фиксированному алгоритму. Монотонная работа с заранее заданным входом и выходом – это всегда крайняя мера, вынужденное угнетение человеческого духа ради того, чтобы достичь той или иной практической цели. И если цели можно достичь без того, чтобы тратить время настоящих живых людей, именно так и следует поступить. Как, например, произошло с ткачами и банковскими работниками, когда первые перестали выполнять функции станка, а вторые – функции банкомата.

Поэтому я считаю, что ведущиеся сейчас разговоры о том, как ужасно, что огромную армию дальнобойщиков заменят беспилотные автомобили, не просто беспочвенными, а контрпродуктивными. Привести машину из пункта А в пункт Б – это как раз типичнейший пример монотонной строго алгоритмизированной работы, которую, если есть такая возможность, человек выполнять не должен. Никакой гигантской социальной проблемы от этого тоже не произойдёт: людям, которые любят возиться с автомобилями и другой подобной техникой, наверняка найдётся работа по её сервису и обслуживанию. Точно так же не произошло никакой социальной революции, когда потеряли актуальность конюхи и кучеры – они просто перешли в другие специальности. А ведь их в процентном отношении было не меньше, чем дальнобойщиков.

Кстати, не могу не вспомнить на этом месте важную максиму шоу-бизнеса: “The Simpsons did it first”. Лучший мультсериал всех времён и народов изобразил влияние беспилотных автомобилей на дальнобойщиков… ещё в 1999 году, в серии “Maximum Homerdrive” (по-русски, видеофрагмент).

Любопытно, кстати, что самый популярный российский пример “массовой низкоквалифицированной профессии” – вахтёры и охранники – никакой непосредственной “угрозе” не подвергаются, ведь их функция не столько в том, чтобы монотонно проверять документы (это много где автоматизировано уже давно), сколько в том, чтобы общаться с живыми людьми, у которых с документами не всё в порядке. Это автоматизируют ещё ой как не скоро.

Однако на первый взгляд кажется, что сейчас речь заходит о том, что компьютеры начинают понемногу заменять людей и в тех областях, которые раньше считались человеческой прерогативой. Например, с 2014 года Facebook умеет распознавать лица не хуже людей, и технологии компьютерного зрения только улучшаются; отчасти именно они привели и к появлению беспилотных автомобилей. Масса современных публикаций предсказывают социальный коллапс и безработицу на уровне 50%, а то и выше.

Верно ли это? Откуда вообще взялась эта внезапная волна интереса к автоматизации, ведь искусственный интеллект прогрессирует уже очень давно? Давайте разберёмся.

О природе страхов

Незаменимых людей нет.

Вудро Вильсон, (а Сталин такого, кажется, и вовсе не говорил)
The Simpsons. Episode 503, “Them, Robot”

Многие популярные статьи об ужасах автоматизации на самом деле восходят к одной и той же публикации: в 2013 году оксфордские учёные Карл Бенедикт Фрей и Майкл Осборн выпустили статью под названием “Будущее занятости: насколько рабочие места подвержены компьютеризации?” В этой статье они делают смелый вывод о том, что около 47% рабочих мест в США находятся под угрозой. Впоследствии они провели аналогичное исследование на британском материале и получили не менее угрожающие цифры. Но давайте попробуем разобраться подробнее, откуда эти цифры взялись.

Как практикующий учёный в области машинного обучения и анализа данных, я не могу пройти мимо собственно методологии Фрея и Осборна. Она была такова:

  • Фрей и Осборн собрали группу исследователей в области машинного обучения и разметили 70 разных профессий, ответив для каждой из них на бинарный вопрос: автоматизируема профессия в ближайшем будущем или нет; эта разметка была сделана на основе чтения специального каталога, где приводятся описания профессий и сопутствующих им обязанностей;
  • затем они выделили девять признаков, характеризующих каждую профессию на основе уровне требующейся ловкости рук, креативности и социальных взаимодействий;
  • построили несколько классификаторов, обучая их предсказывать размеченную на первом этапе “автоматизируемость” на основе этих девяти признаков; лучшим из них оказался классификатор на основе гауссовских процессов;
  • и, наконец, они применили этот классификатор к 702 профессиям, получив тем самым свои тревожные результаты.

К гауссовским процессам у меня никаких претензий нет – это очень разумный метод классификации в данном случае, на очень маленькой выборке. Однако важно понимать, что данные для этого классификатора были размечены людьми и представляли собой их субъективный прогноз об автоматизируемости той или иной профессии.

Я далёк от мысли применять к исследованию Фрея и Осборна главный принцип анализа данных: “garbage in – garbage out“. Однако популярные статьи, которые зачастую пишут просто “Фрей и Осборн изучили 702 профессии на основе гауссовских процессов”, а потом относятся к выводам как к научному результату, тоже явно лукавят. Ведь даже если бы классификатор был абсолютно идеальным (что вряд ли – слишком уж мало признаков и слишком они грубые), он отвечал бы не на вопрос “Автоматизируема ли эта профессия?”, а на вопрос куда менее впечатляющий: “Считают ли люди, которые размечали исходные 70 профессий из выборки Фрея и Осборна, что эта профессия тоже будет автоматизирована?”

Хотя Фрей и Осборн пишут, что “то, что мы разметили лишь 70 из 702 профессий… сокращает риск предвзятости нашего исследования”, на самом деле анализ данных не может здесь добавить никакой “научной объективности”. Это по-прежнему субъективный прогноз исследователей, просто вместо субъективных оценок профессий они получили субъективные оценки их отдельных свойств (признаков) и автоматически распространили свой прогноз с 70 профессий на 702 – есть в этой автоматизации усилий некая ирония, правда? Могли бы, кстати, и всё сами разметить, семьсот – это всё-таки не семьсот тысяч…

Были и другие исследования, но по сути в таком футурологическом деле всё-таки нет другой методологии, кроме опроса экспертов. А эксперты, к сожалению, опять дают чрезвычайно, а то и чрезмерно оптимистичные прогнозы. И это при том, что в искусственном интеллекте громкие обещания звучат с первых лет его существования как науки, но очень редко оправдываются. Когда в конце 1950-х годов Фрэнк Розенблатт создал первый перцептрон, простейшую модель машинного обучения, New York Times (не какой-нибудь таблоид!) писал так: “Перцептроны смогут распознавать людей… и мгновенно переводить речь с одного языка на другой или переводить её в письменный вид”. Как видите, с распознаванием получилось только более чем через полвека, а с “мгновенным переводом” не получилось до сих пор.

Такие завышенные ожидания уже стали причиной двух “зим искусственного интеллекта”: сначала в конце шестидесятых стало понятно, что “мгновенный перевод” будет ещё очень не скоро, а потом аналогично закончилась и вторая волна хайпа в конце 1980-х. А сейчас мы с вами переживаем разгар третьей волны хайпа искусственного интеллекта. И я опасаюсь, что если страхи с прогнозами будут продолжать усиливаться, а волна хайпа превратится в цунами, нам, исследователям в области машинного обучения, снова придётся вспоминать девиз дома Старков...

Нынешняя волна, конечно, появилась не на пустом месте: достижения современных моделей машинного обучения действительно поражают воображение и идут всё дальше и дальше. Однако действительно ли современное машинное обучение уже готово полностью заменять людей в массовых профессиях? Об этом мы подробно поговорим в следующей части нашего цикла.

Об авторе

Я математик-информатик, работаю над задачами машинного обучения и анализа алгоритмов; скоро, например, выйдет моя (совместно с Артуром Кадуриным и Екатериной Архангельской) книга "Глубокое обучение" о революции, произошедшей десять лет назад в искусственном интеллекте. Для моей должности в компании Neuromation мы долго выбирали подходящее название и в итоге остановились на CRO – Chief Research Officer; я занимаюсь моделями машинного обучения (пока в основном нейросетями для компьютерного зрения). В Neuromation мы делаем распределенную платформу для порождения синтетических данных и обучения глубоких нейронных сетей, которая будет использовать для этого вычислительные мощности майнингового оборудования.

Сергей Николенко, Chief Research Officer, Neuromation
0
14 комментариев
Написать комментарий...
Дмитрий

"Нет ничего человеческого в том, чтобы следовать фиксированному алгоритму" - категорически поддерживаю. Выполнять рутинную работу - это ниже человеческого достоинства. Быть придатком конвейера никому не пожелаешь.

Ответить
Развернуть ветку
Sergey Nikolenko
Автор

Вот! У меня есть единомышленники.)

На самом деле потом в следующих частях ещё напишу, но все эти разговоры о том, "куда же пойдут таксисты", для меня очень плохо пахнут -- звучит как какое-то снисхождение к "малым сим", тьфу, не люблю такого.

Ответить
Развернуть ветку
Дмитрий

Но все-таки, куда денутся толпы условных "таксистов"? Интересно ваше мнение. Не всем же суждено стать художниками и программистами.

Ответить
Развернуть ветку
Дмитрий

Хорошо. Вопрос не совсем корректен. Снимаем его) Вы и так на него полстатьи отвечали.

Ответить
Развернуть ветку
Sergey Nikolenko
Автор

Ниже ответил.)

Ответить
Развернуть ветку
Dmitry LS

"Никакой гигантской социальной проблемы от этого тоже не произойдёт: людям, которые любят возиться с автомобилями и другой подобной техникой, наверняка найдётся работа по её сервису и обслуживанию."
Согласиться можно лишь частично.
Возиться с автомобилем и управлять автомобилем - это разные вещи. К примеру, быть летчиком и авиационным техником - это разные виды деятельности, разные таланты и разный интерес, так же как и ощущения от управления самолетом и от ковыряния каком-нибудь агрегате...
Это два разных таланта, но подавляющее большинство из водителей не являются действительно талантливыми в своей профессии и занимаются "не своим делом". Но масштабы социальной проблемы оцениваются уровнем безработицы, смогут ли сокращенные найти другую работу, чтобы продолжить заниматься не своим делом.

Ответить
Развернуть ветку
Sergey Nikolenko
Автор

У меня в фейсбуке спросили: "Что делать с этой армией водителей? Послать воевать куда нибудь подальше?".

Я ответил так
"Конкретно про таксистов я вот всё не понимаю, что же они, таксисты, в своё время сделали с армией кучеров и конюхов. Вероятно, отправили на Сомму, а в отсталой России -- под Сталинград, не иначе. :)"

Ответить
Развернуть ветку
Dmitry LS

Разработчики систем автономного управления автомобилями не должны решать проблемы безработицы среди таксистов и дальнобойщиков, это быть может их моральный груз, но точно не их компетенция. Подобные значительные изменения на рынке труда затрагивающие значительные группы населения, должны в первую очередь волновать государство и профсоюзы. должна появиться программа обучения и профессиональной переподготовки. Возможно создание фонда, куда в определенный переходный период должны отчислять те, кто будет извлекать выгоду от замены людей "машинами". Экплучатирующие новые технологии компании, должны будут сделать значительные капиталовложения, не смотря на экономию на отчислениях с самом фонде оплаты труда. А вот производители оборудования, заменяющего людей, являются теми кандидатами в источники финансирования фонда ликвидации последствий технической революции - они должны с моральной точки зрения и с точки зрения нагрузки на бюджет из-за армии безработных отчислять со сверхприбыли, которую будут получать какое-то время.

Ответить
Развернуть ветку
Sergey Nikolenko
Автор

У Хайнлайна был хороший рассказ на эту тему, "Линия жизни":
http://lib.ru/HYNLINE/line.txt
Я его, может быть, вспомню в следующих частях.

Ответить
Развернуть ветку
Dmitry LS

Действительно интересным является не написание алгоритмов решения каких-то узкоспециализированных задач и не создание ботов для чатов или поисковиков, имитирующих человеческое общение, а создание ИИ, способного к абстрактному мышлению. В открытых источниках пока нет информации о том, что кто-то этим начал заниматься. А этим можно было бы начать заниматься уже сейчас. Получается пока что разработчики ИИ пытаются создать только элементы "искусственного интеллекта" уровня насекомого или примитивного животного, запрограммированного на определенное поведение.

Ответить
Развернуть ветку
Sergey Nikolenko
Автор

Займитесь! Если получится -- не просто обогатитесь, а станете буквально на один уровень с Эйнштейном или Тьюрингом.

Ответить
Развернуть ветку
Dmitry LS

Задача, поставленная перед компьютером, заключающая в том, чтобы ввести человека в заблуждение (с кем он ведет диалог, с машиной или с человеком), изначально направляет вектор приложения усилий исследователей в сторону имитации, что смещает приоритеты. Похожесть не является настоящей ценностью. Абстрактное мышление - тоже лишь часть интеллекта, но весьма ценная и более высокого уровня.
Если бы была такая возможность прямо сейчас, то занялся бы. Но сначала надо придумать, как такую или схожую возможность изыскать.

Ответить
Развернуть ветку
Дмитрий Янин

Сергей, такой вопрос к вам. Для полноценного бытового ИИ (в моем понимании это аналог Siri, но гораздо более умный) требуется много компьютерных мощностей. Сможет ли ИИ успеть развиться до того момента, как их перестанет хватать чисто физически? Я имею в виду, получим ли мы того самого Джарвиса до момента, когда законы физики нам скажут, что "ребята, мощнее чипы сделать не получится - пользуйтесь тем, что есть" =)

Ответить
Развернуть ветку
Sergey Nikolenko
Автор

Конечно, сможет. Есть же уже proof of concept, причём их миллиарды, и каждый потребляет 20-30 ватт, как лампочка.

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку

Комментарий удален модератором

Развернуть ветку

Комментарий удален модератором

Развернуть ветку
11 комментариев
Раскрывать всегда