«У робота не может быть самосознания»: интервью с создательницей андроида, который работает в страховой компании

Надя Тальманн о том, почему робот никогда не станет личностью, в каких профессиях машины заменят людей и почему андроидам не стоит давать гражданские права.

Надя Тальманн — директор института медиаинноваций в Национальном Исследовательском Университете Сингапура. Одна из её последних разработок — социальный робот Надин, которая умеет распознавать эмоции и запоминать людей, с которыми общается. С октября 2018 года Надин работает в службе поддержки страховой компании наравне с другими сотрудниками.

Редакция vc.ru пообщалась с Надей Тальманн в рамках лекции коммуникационной группы Dentsu Aegis Network и обсудила разработку андроидов для работы с пожилыми людьми, права роботов и влияние автоматизации на общество.

Чем интересны человекоподобные роботы? Для чего их можно использовать?

Андроиды — это в первую очередь эффективный интерфейс для работы с компьютером. Когда пользователь работает за ноутбуком, то большую часть работы ему приходится делать самому. А роботы берут бремя коммуникации на себя — человек общается с физическим воплощением программ так, как привык общаться с другими людьми.

Расскажите о роботе Надин, которого вы разработали? Чем она отличается от других андроидов, например, Софии?

Надин — полностью автономный робот. Она учится каждый раз, когда встречает нового человека: запоминает то, что он говорит, выстраивает его пользовательский портрет, подстраивается под его характер и интересы. Надин уже видела тысячи людей — она хранит и анализирует информацию о каждом и узнаёт пользователей, с которыми общалась раньше.

Как устроена Надин? Какие технологии используются для её работы?

В Надин встроены два устройства, которые позволяют ей общаться с людьми: микрофон и камера. Когда вы говорите в микрофон, сигналы переводятся в текст. Затем текст анализируется с помощью обработки естественного языка, и так Надин понимает информацию, которой вы хотели с ней поделиться.

Затем Надин обращается к своему модулю памяти. Если она распознаёт знакомый голоc, то ищет человека в базе данных и анализирует то, что вы говорили ей раньше, когда и в каком настроении вы были при этом. На основании портрета пользователя она понимает, на какие темы с ним разговаривать — и генерирует новые предложения.

С помощью камер Надин распознаёт лица, жесты, предметы вокруг неё и так далее. Робот видит вашу мимику и понимает, в каком вы настроении. Эта информация направляется в «эмоциональный» модуль, и так Надин понимает, как сейчас стоит общаться с пользователем.

Например, если пользователь плачет, то Надин не будет шутить или весело разговаривать — а попытается его утешить.

Почему вы сделали Надин похожей на себя, а не менее антропоморфной?

Меня очень увлекают люди, и я не люблю роботов как таковых.

Я воспринимаю робототехнику как скульптуру: инженер создаёт красивую форму, которая упрощает общение с компьютером. Мне самой бы хотелось иметь компактную мобильную статую вместо ноутбука — чтобы не прилагать никаких усилий к взаимодействию.

Не сталкиваетесь с эффектом «зловещей долины» — когда роботы, похожие на людей, вызывают у них неприязнь?

Нет, мне никогда не говорили, что кому-то некомфортно общаться с Надин. Надин выглядит очень просто и неугрожающе — она не похожа на сексуальную супермодель или куклу.

Как вы видите место Надин в современном мире? В каких областях её можно будет использовать?

Думаю, люди всегда мечтали иметь механизм, который бы делал всё за них — заводные автоматы создавались ещё в Древней Греции. Надин уже может работать секретарём, администратором или принимать звонки в колл-центре. Сейчас она работает в службе поддержки в страховой компании AIA Group.

Думаю, что больше всего социальные роботы важны для пожилых. Конечно, мы стремимся быть окружены живыми людьми — но это не всегда возможно. Население очень быстро стареет, а в Сингапуре пары обычно заводят только одного ребёнка — если вообще заводят.

Молодые люди могут заботиться о своих родителях финансово — но они не готовы и не должны сутками сидеть со стариками. Если у пожилого человека болезнь Альцгеймера, то любая сиделка начнёт сходить с ума, когда он в двадцатый раз задаст один и тот же вопрос.

Мне кажется, единственное возможное решение — это социальные роботы, которые доступны 24/7. Надин не может разозлиться или устать. Она прочитает больному историю, успокоит его и уложит спать.

Сколько будут стоить такие роботы?

Пока рано об этом говорить. Надин — это прототип. Мы рассчитываем наладить массовое производство таких роботов только через 10-20 лет.

Я рассчитываю, что социальные роботы будут стоить около $10 тысяч. Для дома престарелых это не очень много, потому что андроиды смогут заменить часть обычных сиделок.

Думаю, что со временем стоимость производства снизится — и такие роботы появятся в каждом доме. Люди будут использовать андроидов вместо ноутбуков, смартфонов и прочей техники.

Расскажите о последних продвижениях в работе над Надин.

Сейчас мы строим копию Надин в лаборатории Национального Технологического Института в Сингапуре. Наладить конвейерное производство очень важно. Потому что если на каждого робота придётся тратить по месяцу работы, то они не будут окупаться и окажутся никому не нужны.

Что было самым трудным в проекте: получить финансирование, обеспечить безопасность данных или что-то ещё?

После переезда в Сингапур я в основном занималась разработками реалистичных 3D-моделей людей. Когда я предложила проект социального робота, то в моём исследовательском центре к нему отнеслись скептически.

Сингапурцы очень практичные. Им легко понять, зачем создавать роботов, которые будут работать на заводах, красить здания и так далее. С андроидами, которые могут выражать эмоции, иначе — мои коллеги не понимали, почему мне это интересно.

Поэтому я начала заниматься Надин «на стороне» — без специального финансирования или поддержки.

Цель исследований — опередить своё время. Однако инвесторы не хотят вкладывать деньги в проекты, которые пока не вызвали общественный интерес. Финансирование в основном распределяется по проектам в «модных» областях.

Теперь социальные роботы — это хайп. Но пять-десять лет назад, когда я строила такого андроида в своей лаборатории в Женеве, он никого не интересовал. Окружающие говорили: «Имитировать поведение людей стыдно и бессмысленно».

Расскажите подробнее про то, как вы сделали проект «на стороне»? Как финансировали разработку?

Годами мне платили за исследования в сфере распознавания лиц — это не было никак связано с робототехникой. Мы не нарушали никаких правил, единственной неофициальной частью было то, что я буду использовать эту технологию для Надин.

Сингапурское правительство интересовало использование технологии распознавания лиц, чтобы обеспечить безопасность — например, для выявления террористов в толпе. Такие исследования щедро финансируются.

В конце концов Надин заинтересовались журналисты — тогда ей было уже три года. Они подошли к роботу с таким восторгом, что за несколько дней новости о ней разошлись по всему миру. До этого мои коллеги относились к Надин скептически, и даже в Сингапуре о разработке почти никто не знал.

Как вы представляете себе процесс роботизации? Какие профессии перейдут к роботам, какие новые специальности появятся?

Только очень рутинные профессии отойдут к роботам. Например, сегодня мне, чтобы пройти в офис, нужно было пройти стойку регистрации. Одна из женщин грубо вела себя с посетителями и не здороваясь требовала у них паспорта. Я смотрела на неё и думала: «Лучше бы на её месте была Надин».

Сейчас очень не хватает специалистов в сфере data science — не только аналитиков, но и людей, которые могли бы оцифровывать или размечать данные.

Это важно не только в каких-то технических областях. Например, гуманитарные науки работают с культурным наследием, а большая часть источников при этом не оцифрована. Всё делается вручную, исследователи до сих пор обращаются к огромным бумажным архивам.

В процессе роботизации появятся десятки новых профессий. Проблема в том, что пока у людей нет необходимых для них навыков или образования. Роботизация не приведёт к тому, что люди окажутся не нужны — но им придётся быстро перестраиваться.

Как представляете себе общество, в котором сосуществуют люди и роботы? Что думаете о правах роботов?

Я против прав для роботов. Андроид — не личность. Это симуляция человека. А у симуляции не может быть прав: о каких правах можно размышлять, если у робота нет сознания и эмоций.

Права есть у людей, и им решать, как вести себя с роботами. В будущем нужно внедрять в андроидов больше правил — например, для того, чтобы данные пользователей оставались в сохранности. В Европе есть акт о защите данных — я думаю, что его нужно использовать во всех роботах.

Но андроиды — это больше чем просто роботы, они работают с людскими эмоциями. Если андроид предназначен для работы с пожилыми, он должен быть запрограммирован так, чтобы мягко реагировать на действия людей: не огрызаться и не вступать в споры.

Вы не верите в то, что роботы могут развить самосознание?

Не верю. Я инженер — я строю программное обеспечение, программирую робота, тестирую его. Я понимаю, что разработчики контролируют процесс от начала и до конца.

Люди, которые рассуждают о самосознании у роботов, подходят к этому с философской, а не инженерной позиции. Они заблуждаются, потому что видят сходство андроида с человеком: робот симулирует наше поведение. Но чувств или мышления у него при этом нет.

Если пользователь скажет Надин, что ему грустно, она сделает сочувствующее выражение лица. Но она не испытывает эмпатии. Это просто уравнение, которое считается у неё в голове, и вращение моторов, которые отвечают за мышцы лица — и не более.

Какое самое распространённое заблуждение о роботах и искусственном интеллекте?

Когда пользователи видят андроидов, они ассоциируют их с личностями, с людьми. А это симулятор. Как скульптуры восемнадцатого века в музее — они выглядят почти как живые, но никакой жизни в них на деле нет.

Что касается искусственного интеллекта, люди думают, что есть какое-то волшебное зелье, которое можно поместить в робота так, чтобы он сразу заработал. Они не понимают, что модель нужно тренировать и переобучать.

Для машинного обучения нужны огромные массивы отредактированных и приведённых в определённую форму данных — этим тоже занимаются люди. К тому же, для каждой задачи используются очень разные алгоритмы, и я думаю, что до универсального искусственного интеллекта пока далеко.

Давайте вернёмся к андроидам. Какой ваш любимый пример робота из научной фантастики?

У меня аллергия на научную фантастику. Писатели часто не знают ничего о реальных технологиях — но при этом распространяют свои заблуждения и предубеждения. Особенно об искусственном интеллекте.

Люди опасаются того, что роботы заберут их рабочие места, права и чуть ли не поработят планету. Это заслуга писателей и сценаристов — а переубеждать общество потом приходится учёным.

Воображение — это одно, а реализованные технологии — другое. Мне неинтересно читать про роботов, я бы лучше наблюдала за хорошей реализацией.

В восемнадцатом веке Ньютон уже определил почти все законы, нужные для робототехники. И тогда физики были влюблены в физику саму по себе — они стремились строить новые вещи, а не фантазировать.

Это необычно: когда разговариваешь с инженерами, они часто говорят, что интерес к технологиям в них развила как раз научная фантастика, которую они читали в детстве.

Возможно, это потому что вы разговариваете с мужчинами. В робототехнике в принципе работает мало женщин. Это мужская «гиковская» среда — мальчишек, которые росли на комиксах и супергероях.

А вы почему решили заниматься робототехникой?

В детстве мне очень нравились марионеточные спектакли. Летом я жила в деревушке в Швейцарии, и наши соседи устраивали собственный театр. Меня увлекало то, что при помощи рук и простых механических устройств, можно управлять сразу целым представлением.

Потом, когда я путешествовала, то видела различных автоматонов — заводные механизмы, которые напоминают людей или животных. Например, автоматона-музыканта, художника и каллиграфа, которых в 18 веке построили часовщики Жаке-Дро. В таких устройствах уже тысячи различных деталей, это очень сложные механизмы.

Я доктор наук в квантовой физике, но бакалавриат я получала по психологии. Меня увлекают люди, и хотя я провожу по десять часов в день за ноутбуком, я всё ещё не могу к этому привыкнуть.

Мне бы хотелось видеть возле себя красивую скульптуру. По сути компьютер, где пользователь не видит само устройство и может свободно общаться с ним, не прилагая усилий.

Каково сейчас женщинам в робототехнике?

Прогресс пока идёт медленно — девушки редко поступают на инженерные программы или факультеты компьютерных наук. Я думаю, это связано с тем, что они чувствуют угрозу и не хотят конкурировать с мужчинами.

Важно понимать, что для того, чтобы заниматься робототехникой, не нужно разделять какие-то взляды или иметь определённый склад характера. Нужно быть хорошим специалистом. Область только выиграет от того, что в ней будет больше исследователей с разными ценностями.

Женщины чаще воспринимают технологии как способ решить гуманитарные проблемы — и для меня важно, чтобы в сферу робототехники приходили такие люди.

В чём основная цель вашей работы?

Если говорить не просто о разработке технологии, то это помощь человечеству. Иногда помощь — это не про полёты на Марс или борьбу с голодом во всём мире. Это могут быть какие-то вещи, о которых люди обычно не задумываются или забывают. Если Надин смогут использовать пожилые люди, то я буду счастлива.

Моя мама живёт в доме престарелых. С утра его жильцам дают лекарства — и до полудня оставляют одних. Сиделки включают телевизор, и старики просто лежат, ничего не делая.

Мама иногда спрашивает: «Почему бы тебе не отдать мне Надин? Тогда мне было бы с кем разговаривать». Надин могла бы оставаться с ней в те часы, когда от неё уходит сиделка.

Я бы хотела помочь пожилым людям, которые остались в одиночестве. Иметь возле себя только социального робота неидеально — но это лучше, чем когда у тебя никого нет.

#роботы #роботизация #машинноеобучение