Сможет ли искусственный интеллект прекратить авиакатастрофы?

Интервью с кофаундером компании Data Monsters Данилом Лесоводским. Говорили о применении машинного обучения в промышленности, авиастроении, сервисе и корпоративном управлении.

Это страшно, когда ты знаешь, что в паре километров от тебя на взлётно-посадочной полосе горит самолёт. Ты уже получил несколько любительских видео. Завтра тебе брать интервью. А сегодня нужно во что бы-то ни стало к нему подготовиться. Но ты все равно отвлекаешься и «рефрешишь» Яндекс.Новости. Там тишина. Вдруг по телеграм-каналам приходит еще один ролик: прямо сейчас живые люди скатываются с надувного трапа и бегут от страшной догорающей машины в пустое поле, где их никто не ждет. Тот, кто снимает, умоляет не существующих в моменте пожарных и фельдшеров: ребята, быстрее, пожалуйста, быстрее. А та, что рядом с ним, за кадром, плачет навзрыд от жалости и беспомощности…

Невероятным усилием воли ты закрываешь все вкладки, которые «не про интервью». Соберись, тряпка! Завтра в том же Шереметьево согласился побеседовать «человек с искусственным интеллектом». Так его за глаза, в шутку и любя называют коллеги. Ещё буквально пару лет назад казалось, что искусственный интеллект в нашей жизни — это термин «от лукавого по имени Пиар». Поэтому очень хотелось бы поговорить с живым человеком, который продаёт эти фантастические технологии машинного обучения (ML) другим живым, здравомыслящим людям.

И раз уж так с этим аэропортом всё «сложилось», попробую-ка я завтра узнать у Данила такую вещь: а не поможет ли (гипотетически!) искусственный разум всем нам в том, чтобы раз и навсегда избавиться от одного из самых страшных типов техногенных аварий — от авиакатастроф.

Черт возьми, сколько можно полагаться на внимательность и квалификацию простых homo sapiens, с их страстями, некомпетентностью и страхами?!

Я: Данил, сегодня мы сидим с тобой, пьём раф. А буквально за этими стенами лежат обгоревшие останки SSJ. Я бесконечно соболезную семьям погибших. И, разумеется, мы не можем не касаться этой темы. Не знаю, получится или нет, но хотелось бы понять как искусственный интеллект мог бы помочь нам избегать таких несчастий…

Но для начала, давай «знакомиться». Расскажи, пожалуйста: в чем заключается идея твоего бизнеса?

Данил: Мы помогаем промышленным предприятиям использовать технологии искусственного интеллекта (ИИ, AI) в принятии управленческих решений:

— о ремонте оборудования

— решений, связанных с качеством продукции

— о том, каким образом настроить производственный процесс, чтобы достичь какой-то конкретной цели.

Например, нужно улучшить показатель выпуска, производить больше, качественнее и так далее.

Слушай, я вот по своей основной работе постоянно езжу по городам и промышленным весям. Встречаюсь с кучей директоров производств, у которых за плечами десятилетия опыта. Неужели такие товарищи сами хотят, чтобы им помогал какой-то там «разум»? Не расценивают ли они твои «железочки» как конкуренцию?

Спрос огромный. Интерес — еще больший, чем спрос. Я думаю, что всем более-менее образованным людям хотя бы на интуитивном уровне понятно, что машины могут справляться со многими задачами гораздо лучше, чем homo sapiens. Обычно никого не приходится агитировать «за AI-шную власть». У всех ЛПРов (а это и технические директора, и инженеры) есть интерес в глазах, желание формулировать задачи и кейсы.

Среднестатистическому инженеру нужно ли проходить какие-то курсы по ИИ, чтобы понимать чем именно это сможет ему помочь?

Можно обойтись и без курсов. Мы находим простые слова, чтобы объяснить самую суть машинного обучения или глубокого обучения.

Если свернуть все это в короткую формулу, то получается так, что машина может находить значимую информацию лучше и быстрее, чем человек. Подсказки машины получаются более точными, чем может сделать пара глаз усталого инженера, наблюдающего за процессом производства.

Помнишь на заре интернета был справочник «Желтые страницы интернета». Ты его открывал, пытался найти там то, что тебе нужно… Сейчас объём данных такой, что справочниками не обойдешься. Нужна технология, которая может обходить сотни миллионов сайтов, страниц и находить очень точную информацию за доли секунды. Ни один человек не способен справиться с такой задачей. Машины могут «перелопачивать» огромные массивы слабо структурированных данных, находить в них значимые признаки и помогать людям принимать решения на основании выявленных сигналов. Вот собственно короткая формула успеха ИИ. Хотя ИИ — это слишком хайповое слово. Профессионалы его не очень любят. Машинный интеллект, machine learning или deep learning – более точные термины.

Как ты вообще пришел к такой идее — заняться machine learning?

Продал очередной бизнес. Задумался чем заняться дальше. Проанализировал десятка три мировых техно-трендов в поисках рынков, которые будут расти в перспективе 20-30 лет. В том числе блокчейн, AR, VR, аддитивные технологии в производстве… Ну и, учитывая мой большой прошлый опыт работы с данными… Знаешь, оказалось, что те модели, которые сейчас делают при «обучении машинному обучению», я делал сам на Паскале, Basic-е, Excel-е еще будучи школьником. Дальше все стало просто и быстро налипать само по себе.

Ты не боялся того, что производства в принципе не приемлют «внекастовых» людей? Ведь каждому кажется, что свой завод — самый уникальный в мире. Я такой барьер называю «добЫча / дОбыча». Как ты вообще решился объяснять, например, металлургам про плавки?

Я закончил факультет «Бауманки», который изначально создавался для воспитания руководителей производственных компаний. Едкая смесь инженерных наук плюс новейшие методы управления. Как результат — мне по жизни довольно просто разобраться с любой производственной компанией. Кроме того, всегда нужно делать «домашку»: прежде чем начинать общаться с клиентом, делается погружение в индустрию.

Опыт — вещь важная. Скажи пожалуйста, в случае стартапа, что «первичнее»: первый клиент или команда?

Команда и еще раз команда. Клиенты, рынки могут меняться, продукты могут меняться. Но то, что делает бизнес успешным, это команда, которая достаточно умная и гибкая. Умная, чтобы справляться с вызовами, гибкая — чтобы своевременно менять неудачные решения на удачные.

В Интернете мелькают статьи: «N причин неудач стартапов». Если посмотреть на эти списки внимательно, становится понятным, что если у тебя есть люди с правильным опытом и мотивацией, любая из этих N проблем выглядит вполне себе решаемой.

Но как можно собрать команду ДО того, как у тебя появился первый клиент?

Наверное, харизма, энергия, аргументы – все средства лидера здесь хороши.

У вас какая-то миссия, видение? Что вы хотите своим бизнесом миру доказать?

Мы считаем, что можно очень много работы делегировать машинам, которые будут эту ненормальную, неестественную для людей рутину выполнять в разы эффективнее. Нам нравится это делать, нравится чувствовать, что машина САМА создает что-то новое. А люди при этом перестают тупо смотреть в монитор отслеживая показания датчиков. И начинают заниматься какими-то более интеллектуальными, более творческими вещами.

Тебе никогда не казалось, что те, кто сейчас вот так вот «тупят» — переписывают показания датчиков на бумажку, например — они не приспособлены к творческим задачам? Отними у них эту рутину и людям просто надо будет уйти?

На практике ни один проект внедрения ML не приводит к сокращениям персонала. Обычно люди реально счастливы, что им больше не нужно заниматься ерундой.

Для них сразу же находятся занятия более важные. В целом, внедрение ML приводит к улучшению внутреннего климата предприятия.

Возьмем, например, контакт-центр, где работают несколько сотен человек. Всем им приходится делать очень много одинаковой работы: отвечать на одни и те же вопросы, сообщать одну и ту же информацию… Если посмотреть на рейтинг удовлетворенности собственной профессией (в Америке есть такой рейтинг), сотрудник контакт-центра там окажется на предпоследней из 150-ти позиций.

Среднее время работы «телефонистки» — 9-12 месяцев. Вот тут машины крайне нужны, чтобы взять эту безумную работу на себя. Как результат, поднимется мотивация, увеличивается средний срок работы сотрудников, комфорт, профит, позитив.

Правильно ли я понимаю, что твои технологии, если их поставить в контакт-центр, будут принимать входящие звонки от живых людей?

Таких кейсов масса. У всех на слуху Алиса от Яндекс, Алекса от Amazon, Siri на очень худой конец. Но это не обязательно должна быть речь. С контакт-центрами всё больше общаются чатами. У всех сложные графики, встречи и так далее. Кинуть сообщение гораздо проще. XXI век — век асинхронных разговоров. Благо сейчас технологии speech-to-text или text-to-speech совершенствуются очень стремительно. Там еще есть над чем работать. Модель для банков или телекомов должна быть специально обучена, чтобы уметь общаться с «людьми из касты». Нужно создавать вики-алгоритмы или, так называемый интеллектуальный экзоскелет. Например, во время разговора с клиентом алгоритм может предлагать хорошие ответы или собирать нужную информацию, быстро обрабатывать её и что-то подсказывать оператору. Если разговор в чате, то это еще эффективнее — не нужно набирать тексты.

Человеко-машинные системы, кстати, гораздо эффективнее «чистого» машинного интеллекта.

Этот скелет не то же самое, что цифровой двойник?

Нет, не то же. Экзоскелет — это некая рекомендательная система, которая существует параллельно и может улучшать те или иные способности человека. Это очень хорошая метафора: человек не может поднять тяжелую бочку; ты делаешь такой скелет, который позволяет ему эту бочку поднять. Интеллектуальный же скелет позволяет ему найти в огромной базе знаний нужное знание за долю секунды. Машина может слушать разговор и в режиме реального времени находить нужное знание и подсказывать его оператору. Вот это как раз и есть — важное свойство машины, удачно дополняющее роль человека.

Сколько стоит твой продукт и какова отдача от его внедрения?

Ценообразование начинается от нескольких десятков тысяч долларов и выше. Но отдача от каждого проекта колоссальна. Нам, честно говоря, не интересно браться за проект у которого нет понятного ROI.

Ценность создается за счет сокращения простоев, расширения возможностей производства. Когда у тебя всё та же [производственная] линия но, благодаря умному управлению, ты можешь произвести больше продукции. Есть еще огромное множество менее выраженных эффектов, которые тоже вносят вклад в общую прибыль завода. Например, ты оборудование не доводишь до критического состояния, когда ремонт обходится очень дорого, а то и вовсе может потребоваться замена станка. Благодаря предсказаниям специальных предиктивных ML-моделей можно заранее понять, когда для ремонта наступает «самое правильное время». Соответственно, стоимость ремонта будет меньше и потребуется меньше запчастей.

Окей, я понял: были простои… Ну, во-первых, почему они были-то? Почему простои вообще есть до прихода тебя?

Простои есть всегда. Причины бывают самые разные: человеческий фактор, оборудование виновато. Это всегда целый комплекс причин. Если честно, у меня нет задачи разбираться в этих причинах. Мы приходим на предприятие и… имеем то, что имеем. То есть, пытаемся помочь предприятию в моменте, максимально выжимая из текущей ситуации все, что только можно. Добиваемся максимального экономического эффекта.

Да, иногда представители клиента задают вопрос: «Зачем нам вы? Мы итак знаем, что нам нужно поменять вот этот кусок линии и тогда у нас производительность поднимется на 20%». Мы тогда говорим: «Окей, знаете что менять — меняйте. В любом случае наша система будет продолжать работать на вашей обновленной линии и оптимизировать производство дальше — находить новые узкие места, о которых вы сейчас даже не подозреваете. В итоге эффект больше, чем если вы не будете внедрять ML-систему».

С помощью машинного обучения ты можешь заранее понять: что именно у тебя может сломаться. С этим знанием можно вовремя организовать сервисное обслуживание. Но если ты не ожидаешь поломку, а оно ломается, то у тебя происходит остановка линии. Часть продукции в результате такой остановки оказывается безнадежно испорчена. Или, в случае самолета, например, ты не можешь отправить следующий рейс. Самолет стоит в аэропорту и ждет ремонта.

Все эти инструменты производства — станки и прочее — становятся всё интеллектуальнее и дороже. Я знаю, что изготовители современных станков просто выдвигают жесткие и, самое главное, завышенные, избыточные требования по контролю эксплуатации, предупреждающим осмотрам и ремонтам. Современная техника настолько дорогая, что с нее пылинки сдувают. Скажи мне: КАК в таких условиях может произойти некая «неожиданная» поломка в принципе?

Кажется, самое время подойти уже к самолетам. Возьмём-ка их, как кейс высокотехнологичного изделия, на которое наложено дикое количество ограничений и проверок, чтобы оно не ломалось. То есть, без шуток, самолет — образчик очень (!) надежного устройства. Там огромное количество датчиков. На новом Airbus их порядка десяти тысяч.

Всё это собирается, отслеживается и не дай бог что-то пойдет не так. При этом вот тебе ситуация, которая произошла со мною лично. Нас загрузили в самолет. Пилоты пытаются его завести, а он не заводится! Включается сигнал — лампочка на приборной панели. Когда он прилетел в этот аэропорт, все было нормально. А при попытке завести самолет снова, ничего не происходит – просто загорается лампочка. Срабатывает защитная система, которая не дает завести движки. Мы стояли час, пока они разбирались, что с этим делать. Всех выгрузили и отменили рейс.

Вот как бы надежная система. Да, самолет не сломался. Строго говоря, этот сигнал, возможно, спас нас от гибели. Но ни одна система не сказала заблаговременно о том, что такое может произойти именно в этот день и час. Понимаешь в чем проблема? Недостаточно диагностировать, что у тебя что-то не так. Важно предсказывать, что на горизонте 7 дней или нескольких часов у тебя что-то пойдет не так.Тебе нужно знать про будущее, чтобы что-то заблаговременно сделать. Так что, даже в этой ситуации с самолетами, где все супер надежно и все супер замечательно, все равно есть простои из-за ситуаций, которых определенно можно научиться избегать.

Или возьмем нефтеналивной терминал. Раз в полгода его полностью закрывают, останавливают на целых две недели. Нужно же всё проверить, всё заменить, чтобы в следующие полгода с ним ничего не произошло. Две недели раз в полгода — это месяц в год дорогущий объект простаивает. Такой простой тоже можно снижать. Вопрос только: может ли машина подсказать как эти 2 недели сократить до семи или даже пяти дней. Нужно построить модель, которая позволит решить такую задачу. И тогда экономика терминала (авиационного или нефтеналивного) будет существенно лучше!

Тут у тебя прозвучала цена в долларах… Пахнуло 90-тыми..

В долларах потому, что мы работаем и на европейском, и на американском рынках. Не только на российском.

В какой момент вы решили идти на Запад? И почему вы решили это делать?

Из прошлых своих бизнесов я понял, что невозможно опираться только на российский рынок. Все проекты, которые я делал, упирались в размер рынка. Поэтому для меня было принципиально, чтобы следующий проект обладал бы международным потенциалом. А если коротко, то ВВП России — это же всего лишь 3% от ВВП мирового.

В чем кайф и сложность американского рынка?

В том, что большинство людей ТАМ думают на далекую перспективу. Вполне серьезно планируют то, что будет происходить через 5-10 лет и реализуют проекты в соответствии с таким видением. А те, кто работает сегодняшним днем и стараются заработать деньги именно сегодня (в США, кстати, и такие тоже есть), для них, порой, даже пилотный проект не стоит на повестке дня. Они не готовы потратить даже небольшие деньги для того, чтобы понять, что эта технология может для них принести в будущем.

В Америке самый актуальный вопрос это: какие технологии помогут заработать хорошие деньги в следующие 5-10 лет? Там никто не требует немедленной отдачи, чтобы окупилось в течение трех месяцев. ROI 20% для крупного бизнеса считается очень хорошим показателем.

Что сложно? Прежде всего — конкуренция. И в Европу и в США едут со всего мира. Приходится соревноваться в других плоскостях, сражаться как с большими корпорациями, так и с шустрыми стартапами, которые очень быстро проникают в отрасль. К счастью, в России хорошие мозги, отличные университеты и это, конечно, огромная возможность для нашей страны.

Скажи, а по роботизации у вас нет задач?

Роботы могут быть «обыкновенной» частью производственной линии. Нас вообще частенько привлекают в проекты модернизации. Это всегда интересно, но бывает и так, что в ходе модернизации люди устанавливают десять тысяч датчиков, а реально используют потом данные только с тысячи. Даже в США еще не развита культура сбора больших данных. Мало кто понимает, что данные неплохо собирать даже «прозапас».

Вот такой вопрос: недавно человечество узнало о существовании генеративно-состязательных сетей. Просто появился сайт на котором можно увидеть фотографии несуществующих людей. Вот такая состязательность ML-движков — это, случайно, не то, чем ты занимаешься?

Это нейронная сеть, которая в некотором смысле может воспроизводить работу оборудования. Она может прогнозировать его состояние в будущем. С лицами там статитка, там нет движения. В случае оборудования, кейс гораздо сложнее. Системе приходится «смотреть в будущее». Для решения производственных задач используются десятки моделей, сложнейшие технологии предобработки данных. Это нужно, чтобы по имеющейся информации о прошлых поломках предсказывать поломки будущие. В конечном счете всё это прячется «в коробочку», которая потребляет данные и умным образом обучается, саморазвивается и даёт толковые советы инженеру на понятном ему языке.

Наша задача — убрать всю «магию» подальше от потребителя, чтобы он вообще не задумывался: как это работает. Я до сих пор восхищаюсь самолетами как технологией, пользуюсь ими и не заморачиваюсь вопросом «как же они летают».

Ведь для перемещения в пространстве мне это не требуется.

Нужно ли нести технологию ML «в массы»? С одной стороны, ты говоришь, что никто не должен задумываться «как это всё работает»…

Но если мы хотим развивать отрасль и нам нужны кадры для этой отрасли в перспективе 20-30 лет, то да, нужно организовывать курсы машинного обучения прямо сейчас. Задач применения искусственного интеллекта — огромное множество. Не только в потребительском секторе и производстве, но и в самых разных отраслях: ритейл, банкинг, страхование, логистика, строительство, недвижимость, образование, медицина. В мире уже существует колоссальная востребованность кадров в контексте этих технологий.

Обывательский вопрос от настоящего читателя. Что сложнее сделать: ИИ для беспилотного автомобиля, для предиктивного анализа производства или для выявления торговцев наркотиками через инстаграмм?

Ну, с беспилотным автомобилем понятны требования к точности, в поиске торговцев наркотиками тоже понятно…

У беспилотников ведь тоже бывает разная «степень беспилотности». Там 5 уровней. При переходе с четвертого уровня автономности на пятый, сложность вычислительных систем вырастает сразу на два-три порядка.

Вот если мы возьмём 4-ый уровень автомобиля и топовый уровень по наркотикам, наверное, по наркотикам будет сложнее. Но без формулирования конечного результата ответить на этот «обывательский» вопрос практически невозможно.

Смотри. Сейчас, наутро после этой нелепой катастрофы, пошел уже вброс про «ошибку пилотов». Ощущение, что все ленты пытаются обелить «Сухой». Лично я против шельмования отечественного авиастроения. Боинги тоже, знаешь ли, падают. Если представить гипотетически, что в твоих силах и полномочиях внедрить ML в Сухом, что конкретно ты бы сделал?

Даже если предположить, что никто ничего такого там не внедряет (в чем я лично сомневаюсь), то у меня нет достаточного статистического анализа, чтобы рекомендовать внедрение ML в этом или каком-либо другом процессе.

А вообще, работа с данными существенно дешевле и проще набивания физических шишек. Нужно внедрять ML везде, где только можно, в процессе дизайна, в процессе производства, в эксплуатации, обслуживании и в ремонтах. Ведь ИИ расширяет возможности человека, дает ему сверхчеловеческие способности!

Ладно, я в курсе, что ты сейчас улетаешь в Штаты. Не страшно, кстати, после такой трагедии?

Нет, я в известной мере фаталист. Если серьезно, то конечно, вчерашняя трагедия (хотя как «трагедия» может быть «вчерашней»?!) поставила массу вопросов. Где были пожарные и кареты скорой помощи, когда люди горели в приземлившемся самолете? Почему молния вырубила всю электронику? Как быть с тем, что пилоты не виноваты «по определению»? В чем это «определение»? В организации перевозок. Можно дать миллион долларов человеку и отправить его накормить лекарством больного тигра. Тигр вместо лекарства съел бедолагу. Кто виноват?

Данил, спасибо! Не буду тебя больше мучить. Лети в «свой» Сан-Франциско. Кстати, они там недавно раз и навсегда отказались распознавать лица! Так что, человечество, кажется, само ставит палки в изобретенное им же колесо прогресса…

Последние мои слова Данил уже не слышит. Круговерть аэропорта уносит его в сторону «зеленого коридора».

Оставшись один, я подумал две такие мысли. Во-первых, сразу же постарался резюмировать проговоренное с интересным человеком:

А во-вторых, мы так и не решили: сможет ли ИИ избавить нас от авиакатастроф?Вспомнилась недавно прочитанная книга «Четвертая промышленная революция» Клауса Шваба. В ней приводится Отчет Всемирного экономического форума за 2015 год. Эксперты Форума выбрали какие именно достижения прогресса наиболее вероятны в ближайшее десятилетие. Среди привычных уже предсказаний «3D-печать человеческих органов» или «появление спроектированных существ» мне лично бросилось в глаза такое: появление в составе совета директоров корпораций ИИ-робота. Всё-таки не выдержал и «нателеграмил» Даниле эту инфу с вопросом: «Как думаешь, реально ли такое? И поможет ли такая мера прекратить технокатастрофы?»

Через секунду, будто действительно не успел выговориться, Данил прислал ответ: «Это однозначно рано или поздно произойдет. Это поможет корпорациям быстрее развиваться. Возможно приведет к значительным сокращениям в советах директоров. Кстати, сэкономленные таким образом средства корпорации смогут направить на повышение безопасности производимых ими летательных аппаратов, например 😢».

Статья о том, как AI-бот побеждает живых геймеров — VENTUREBEAT, OpenAI’s Dota 2 bot defeated 99.4% of players in public matches.

По этическим соображениям я не стал выкладывать здесь видео катастрофы в Шереметьево, в результате которой погиб 41 человек. Возможно, читателям будет гораздо полезнее посмотреть на досуге фильм режиссера Арсения Гончукова «Полет. Три дня после катастрофы».

Статья «Зачем вашему совету директоров AI-консультант» — VENTUREBEAT, Why your board needs an AI council.

Две полярные статьи о том, как власти Сан-Франциско отказались распознавать лица людей на улицах и о том, что МВД России протестирует носимые камеры с функцией распознавания лиц.

Спасибо, что дочитали до конца;) Если интересно, мои истории про четвертую промышленную революцию, IIoT, BigData, дизайн-мышление, маркетинговый траблшутинг — всё можно найти в едином Телеграм-канале.

#интервью #искусственныйинтеллект