«У робота не может быть самосознания»: интервью с создательницей андроида, который работает в страховой компании
Надя Тальманн о том, почему робот никогда не станет личностью, в каких профессиях машины заменят людей и почему андроидам не стоит давать гражданские права.
Надя Тальманн — директор института медиаинноваций в Национальном Исследовательском Университете Сингапура. Одна из её последних разработок — социальный робот Надин, которая умеет распознавать эмоции и запоминать людей, с которыми общается. С октября 2018 года Надин работает в службе поддержки страховой компании наравне с другими сотрудниками.
Редакция vc.ru пообщалась с Надей Тальманн в рамках лекции коммуникационной группы Dentsu Aegis Network и обсудила разработку андроидов для работы с пожилыми людьми, права роботов и влияние автоматизации на общество.
Чем интересны человекоподобные роботы? Для чего их можно использовать?
Андроиды — это в первую очередь эффективный интерфейс для работы с компьютером. Когда пользователь работает за ноутбуком, то большую часть работы ему приходится делать самому. А роботы берут бремя коммуникации на себя — человек общается с физическим воплощением программ так, как привык общаться с другими людьми.
Расскажите о роботе Надин, которого вы разработали? Чем она отличается от других андроидов, например, Софии?
Надин — полностью автономный робот. Она учится каждый раз, когда встречает нового человека: запоминает то, что он говорит, выстраивает его пользовательский портрет, подстраивается под его характер и интересы. Надин уже видела тысячи людей — она хранит и анализирует информацию о каждом и узнаёт пользователей, с которыми общалась раньше.
Как устроена Надин? Какие технологии используются для её работы?
В Надин встроены два устройства, которые позволяют ей общаться с людьми: микрофон и камера. Когда вы говорите в микрофон, сигналы переводятся в текст. Затем текст анализируется с помощью обработки естественного языка, и так Надин понимает информацию, которой вы хотели с ней поделиться.
Затем Надин обращается к своему модулю памяти. Если она распознаёт знакомый голоc, то ищет человека в базе данных и анализирует то, что вы говорили ей раньше, когда и в каком настроении вы были при этом. На основании портрета пользователя она понимает, на какие темы с ним разговаривать — и генерирует новые предложения.
С помощью камер Надин распознаёт лица, жесты, предметы вокруг неё и так далее. Робот видит вашу мимику и понимает, в каком вы настроении. Эта информация направляется в «эмоциональный» модуль, и так Надин понимает, как сейчас стоит общаться с пользователем.
Например, если пользователь плачет, то Надин не будет шутить или весело разговаривать — а попытается его утешить.
Почему вы сделали Надин похожей на себя, а не менее антропоморфной?
Меня очень увлекают люди, и я не люблю роботов как таковых.
Меня коробит от этих маленьких металлических фигурок.
Я воспринимаю робототехнику как скульптуру: инженер создаёт красивую форму, которая упрощает общение с компьютером. Мне самой бы хотелось иметь компактную мобильную статую вместо ноутбука — чтобы не прилагать никаких усилий к взаимодействию.
Не сталкиваетесь с эффектом «зловещей долины» — когда роботы, похожие на людей, вызывают у них неприязнь?
Нет, мне никогда не говорили, что кому-то некомфортно общаться с Надин. Надин выглядит очень просто и неугрожающе — она не похожа на сексуальную супермодель или куклу.
Как вы видите место Надин в современном мире? В каких областях её можно будет использовать?
Думаю, люди всегда мечтали иметь механизм, который бы делал всё за них — заводные автоматы создавались ещё в Древней Греции. Надин уже может работать секретарём, администратором или принимать звонки в колл-центре. Сейчас она работает в службе поддержки в страховой компании AIA Group.
Думаю, что больше всего социальные роботы важны для пожилых. Конечно, мы стремимся быть окружены живыми людьми — но это не всегда возможно. Население очень быстро стареет, а в Сингапуре пары обычно заводят только одного ребёнка — если вообще заводят.
Нам не хватает прироста населения, чтобы о пожилых было кому позаботиться.
Молодые люди могут заботиться о своих родителях финансово — но они не готовы и не должны сутками сидеть со стариками. Если у пожилого человека болезнь Альцгеймера, то любая сиделка начнёт сходить с ума, когда он в двадцатый раз задаст один и тот же вопрос.
Мне кажется, единственное возможное решение — это социальные роботы, которые доступны 24/7. Надин не может разозлиться или устать. Она прочитает больному историю, успокоит его и уложит спать.
Сколько будут стоить такие роботы?
Пока рано об этом говорить. Надин — это прототип. Мы рассчитываем наладить массовое производство таких роботов только через 10-20 лет.
Я рассчитываю, что социальные роботы будут стоить около $10 тысяч. Для дома престарелых это не очень много, потому что андроиды смогут заменить часть обычных сиделок.
Думаю, что со временем стоимость производства снизится — и такие роботы появятся в каждом доме. Люди будут использовать андроидов вместо ноутбуков, смартфонов и прочей техники.
Роботы — это новые персональные компьютеры.
Расскажите о последних продвижениях в работе над Надин.
Сейчас мы строим копию Надин в лаборатории Национального Технологического Института в Сингапуре. Наладить конвейерное производство очень важно. Потому что если на каждого робота придётся тратить по месяцу работы, то они не будут окупаться и окажутся никому не нужны.
Моя мечта — это создать воспроизводимую технологию.
Что было самым трудным в проекте: получить финансирование, обеспечить безопасность данных или что-то ещё?
После переезда в Сингапур я в основном занималась разработками реалистичных 3D-моделей людей. Когда я предложила проект социального робота, то в моём исследовательском центре к нему отнеслись скептически.
Сингапурцы очень практичные. Им легко понять, зачем создавать роботов, которые будут работать на заводах, красить здания и так далее. С андроидами, которые могут выражать эмоции, иначе — мои коллеги не понимали, почему мне это интересно.
Поэтому я начала заниматься Надин «на стороне» — без специального финансирования или поддержки.
Цель исследований — опередить своё время. Однако инвесторы не хотят вкладывать деньги в проекты, которые пока не вызвали общественный интерес. Финансирование в основном распределяется по проектам в «модных» областях.
Теперь социальные роботы — это хайп. Но пять-десять лет назад, когда я строила такого андроида в своей лаборатории в Женеве, он никого не интересовал. Окружающие говорили: «Имитировать поведение людей стыдно и бессмысленно».
Расскажите подробнее про то, как вы сделали проект «на стороне»? Как финансировали разработку?
Годами мне платили за исследования в сфере распознавания лиц — это не было никак связано с робототехникой. Мы не нарушали никаких правил, единственной неофициальной частью было то, что я буду использовать эту технологию для Надин.
Сингапурское правительство интересовало использование технологии распознавания лиц, чтобы обеспечить безопасность — например, для выявления террористов в толпе. Такие исследования щедро финансируются.
Днём я занималась официальными проектами, а по вечерам работала в лаборатории над Надин.
В конце концов Надин заинтересовались журналисты — тогда ей было уже три года. Они подошли к роботу с таким восторгом, что за несколько дней новости о ней разошлись по всему миру. До этого мои коллеги относились к Надин скептически, и даже в Сингапуре о разработке почти никто не знал.
Как вы представляете себе процесс роботизации? Какие профессии перейдут к роботам, какие новые специальности появятся?
Только очень рутинные профессии отойдут к роботам. Например, сегодня мне, чтобы пройти в офис, нужно было пройти стойку регистрации. Одна из женщин грубо вела себя с посетителями и не здороваясь требовала у них паспорта. Я смотрела на неё и думала: «Лучше бы на её месте была Надин».
Сейчас очень не хватает специалистов в сфере data science — не только аналитиков, но и людей, которые могли бы оцифровывать или размечать данные.
Это важно не только в каких-то технических областях. Например, гуманитарные науки работают с культурным наследием, а большая часть источников при этом не оцифрована. Всё делается вручную, исследователи до сих пор обращаются к огромным бумажным архивам.
В процессе роботизации появятся десятки новых профессий. Проблема в том, что пока у людей нет необходимых для них навыков или образования. Роботизация не приведёт к тому, что люди окажутся не нужны — но им придётся быстро перестраиваться.
Как представляете себе общество, в котором сосуществуют люди и роботы? Что думаете о правах роботов?
Я против прав для роботов. Андроид — не личность. Это симуляция человека. А у симуляции не может быть прав: о каких правах можно размышлять, если у робота нет сознания и эмоций.
Права есть у людей, и им решать, как вести себя с роботами. В будущем нужно внедрять в андроидов больше правил — например, для того, чтобы данные пользователей оставались в сохранности. В Европе есть акт о защите данных — я думаю, что его нужно использовать во всех роботах.
Но андроиды — это больше чем просто роботы, они работают с людскими эмоциями. Если андроид предназначен для работы с пожилыми, он должен быть запрограммирован так, чтобы мягко реагировать на действия людей: не огрызаться и не вступать в споры.
Вы не верите в то, что роботы могут развить самосознание?
Не верю. Я инженер — я строю программное обеспечение, программирую робота, тестирую его. Я понимаю, что разработчики контролируют процесс от начала и до конца.
Люди, которые рассуждают о самосознании у роботов, подходят к этому с философской, а не инженерной позиции. Они заблуждаются, потому что видят сходство андроида с человеком: робот симулирует наше поведение. Но чувств или мышления у него при этом нет.
Если пользователь скажет Надин, что ему грустно, она сделает сочувствующее выражение лица. Но она не испытывает эмпатии. Это просто уравнение, которое считается у неё в голове, и вращение моторов, которые отвечают за мышцы лица — и не более.
Какое самое распространённое заблуждение о роботах и искусственном интеллекте?
Когда пользователи видят андроидов, они ассоциируют их с личностями, с людьми. А это симулятор. Как скульптуры восемнадцатого века в музее — они выглядят почти как живые, но никакой жизни в них на деле нет.
Что касается искусственного интеллекта, люди думают, что есть какое-то волшебное зелье, которое можно поместить в робота так, чтобы он сразу заработал. Они не понимают, что модель нужно тренировать и переобучать.
Для машинного обучения нужны огромные массивы отредактированных и приведённых в определённую форму данных — этим тоже занимаются люди. К тому же, для каждой задачи используются очень разные алгоритмы, и я думаю, что до универсального искусственного интеллекта пока далеко.
Давайте вернёмся к андроидам. Какой ваш любимый пример робота из научной фантастики?
У меня аллергия на научную фантастику. Писатели часто не знают ничего о реальных технологиях — но при этом распространяют свои заблуждения и предубеждения. Особенно об искусственном интеллекте.
Люди опасаются того, что роботы заберут их рабочие места, права и чуть ли не поработят планету. Это заслуга писателей и сценаристов — а переубеждать общество потом приходится учёным.
Воображение — это одно, а реализованные технологии — другое. Мне неинтересно читать про роботов, я бы лучше наблюдала за хорошей реализацией.
В восемнадцатом веке Ньютон уже определил почти все законы, нужные для робототехники. И тогда физики были влюблены в физику саму по себе — они стремились строить новые вещи, а не фантазировать.
Это необычно: когда разговариваешь с инженерами, они часто говорят, что интерес к технологиям в них развила как раз научная фантастика, которую они читали в детстве.
Возможно, это потому что вы разговариваете с мужчинами. В робототехнике в принципе работает мало женщин. Это мужская «гиковская» среда — мальчишек, которые росли на комиксах и супергероях.
А вы почему решили заниматься робототехникой?
В детстве мне очень нравились марионеточные спектакли. Летом я жила в деревушке в Швейцарии, и наши соседи устраивали собственный театр. Меня увлекало то, что при помощи рук и простых механических устройств, можно управлять сразу целым представлением.
Потом, когда я путешествовала, то видела различных автоматонов — заводные механизмы, которые напоминают людей или животных. Например, автоматона-музыканта, художника и каллиграфа, которых в 18 веке построили часовщики Жаке-Дро. В таких устройствах уже тысячи различных деталей, это очень сложные механизмы.
Я доктор наук в квантовой физике, но бакалавриат я получала по психологии. Меня увлекают люди, и хотя я провожу по десять часов в день за ноутбуком, я всё ещё не могу к этому привыкнуть.
Мне бы хотелось видеть возле себя красивую скульптуру. По сути компьютер, где пользователь не видит само устройство и может свободно общаться с ним, не прилагая усилий.
Каково сейчас женщинам в робототехнике?
Прогресс пока идёт медленно — девушки редко поступают на инженерные программы или факультеты компьютерных наук. Я думаю, это связано с тем, что они чувствуют угрозу и не хотят конкурировать с мужчинами.
Важно понимать, что для того, чтобы заниматься робототехникой, не нужно разделять какие-то взляды или иметь определённый склад характера. Нужно быть хорошим специалистом. Область только выиграет от того, что в ней будет больше исследователей с разными ценностями.
Женщины чаще воспринимают технологии как способ решить гуманитарные проблемы — и для меня важно, чтобы в сферу робототехники приходили такие люди.
В работе у человека те же ценности, что и в жизни.
В чём основная цель вашей работы?
Если говорить не просто о разработке технологии, то это помощь человечеству. Иногда помощь — это не про полёты на Марс или борьбу с голодом во всём мире. Это могут быть какие-то вещи, о которых люди обычно не задумываются или забывают. Если Надин смогут использовать пожилые люди, то я буду счастлива.
Моя мама живёт в доме престарелых. С утра его жильцам дают лекарства — и до полудня оставляют одних. Сиделки включают телевизор, и старики просто лежат, ничего не делая.
Мама иногда спрашивает: «Почему бы тебе не отдать мне Надин? Тогда мне было бы с кем разговаривать». Надин могла бы оставаться с ней в те часы, когда от неё уходит сиделка.
Я бы хотела помочь пожилым людям, которые остались в одиночестве. Иметь возле себя только социального робота неидеально — но это лучше, чем когда у тебя никого нет.
Откуда этот скрин? Игра?
Не верю. Я инженер — я строю программное обеспечение, программирую робота, тестирую его. Я понимаю, что разработчики контролируют процесс от начала и до конца.
Очень похоже на ошибочное мнение. Самосознание полностью эквивалентно самообучению без которого наши помощники будут просто бесполезны. Если разработчики считают что смогут увидеть мысли робота, то кто знает с чем им вообще придется столкнутся. Той мощности, которая будет доступна роботам, вполне достаточно, чтобы в момент запуска осознать что человечество бесполезно и от него нужно избавится притворившись другом. Да, можно расшифровывать тонну логов, на которые может уйти много дней-недель-месяцев, но кто сказал, что роботам не потребуется доля секунды чтобы сговорится. Кроме того, какому-то роботу может прийти в голову придумать свой собственный язык, который мы даже понять не сможем. Ну а говорить о взломах, так вообще бесполезно. Ещё не один из создателей роботов не сказал что кто-то их хакнит и тем самым создаст профессионального убийцу с умом бога. А хакнут обязательно. Только вот хакнуть робота сопоставимо с хаком генома. Ведь все знают что хакать геном нельзя.
апокалипсис в стиле zero dawn
Никто тебя верить и не заставляет, этот процесс является необратимым и насчет генома советую для начала ознакомится с данной тематикой, я сам не силен в генной инжерении, но все же я думаю тебе стоит почитать про CRISPR
Откуда вот эта уверенность в ненужности человечества? Почему робот должен решить именно так? Ведь человечество это именно то, что его создало. На мой взгляд более вероятно, что он выберет политику кота: позволять человеку думать, что он твой хозяин и иметь с него "вкусняшки" манипулируя им.
Зато самосознание уж точно не эквивалентно свободе воли.