«У робота не может быть самосознания»: интервью с создательницей андроида, который работает в страховой компании Статьи редакции

Надя Тальманн о том, почему робот никогда не станет личностью, в каких профессиях машины заменят людей и почему андроидам не стоит давать гражданские права.

Надя Тальманн — директор института медиаинноваций в Национальном Исследовательском Университете Сингапура. Одна из её последних разработок — социальный робот Надин, которая умеет распознавать эмоции и запоминать людей, с которыми общается. С октября 2018 года Надин работает в службе поддержки страховой компании наравне с другими сотрудниками.

Редакция vc.ru пообщалась с Надей Тальманн в рамках лекции коммуникационной группы Dentsu Aegis Network и обсудила разработку андроидов для работы с пожилыми людьми, права роботов и влияние автоматизации на общество.

Надя Тальманн и робот Надин

Чем интересны человекоподобные роботы? Для чего их можно использовать?

Андроиды — это в первую очередь эффективный интерфейс для работы с компьютером. Когда пользователь работает за ноутбуком, то большую часть работы ему приходится делать самому. А роботы берут бремя коммуникации на себя — человек общается с физическим воплощением программ так, как привык общаться с другими людьми.

Расскажите о роботе Надин, которого вы разработали? Чем она отличается от других андроидов, например, Софии?

Надин — полностью автономный робот. Она учится каждый раз, когда встречает нового человека: запоминает то, что он говорит, выстраивает его пользовательский портрет, подстраивается под его характер и интересы. Надин уже видела тысячи людей — она хранит и анализирует информацию о каждом и узнаёт пользователей, с которыми общалась раньше.

Как устроена Надин? Какие технологии используются для её работы?

В Надин встроены два устройства, которые позволяют ей общаться с людьми: микрофон и камера. Когда вы говорите в микрофон, сигналы переводятся в текст. Затем текст анализируется с помощью обработки естественного языка, и так Надин понимает информацию, которой вы хотели с ней поделиться.

Затем Надин обращается к своему модулю памяти. Если она распознаёт знакомый голоc, то ищет человека в базе данных и анализирует то, что вы говорили ей раньше, когда и в каком настроении вы были при этом. На основании портрета пользователя она понимает, на какие темы с ним разговаривать — и генерирует новые предложения.

С помощью камер Надин распознаёт лица, жесты, предметы вокруг неё и так далее. Робот видит вашу мимику и понимает, в каком вы настроении. Эта информация направляется в «эмоциональный» модуль, и так Надин понимает, как сейчас стоит общаться с пользователем.

Например, если пользователь плачет, то Надин не будет шутить или весело разговаривать — а попытается его утешить.

Почему вы сделали Надин похожей на себя, а не менее антропоморфной?

Меня очень увлекают люди, и я не люблю роботов как таковых.

Меня коробит от этих маленьких металлических фигурок.

Надя Тальманн

Я воспринимаю робототехнику как скульптуру: инженер создаёт красивую форму, которая упрощает общение с компьютером. Мне самой бы хотелось иметь компактную мобильную статую вместо ноутбука — чтобы не прилагать никаких усилий к взаимодействию.

Не сталкиваетесь с эффектом «зловещей долины» — когда роботы, похожие на людей, вызывают у них неприязнь?

Нет, мне никогда не говорили, что кому-то некомфортно общаться с Надин. Надин выглядит очень просто и неугрожающе — она не похожа на сексуальную супермодель или куклу.

Робот Надин

Как вы видите место Надин в современном мире? В каких областях её можно будет использовать?

Думаю, люди всегда мечтали иметь механизм, который бы делал всё за них — заводные автоматы создавались ещё в Древней Греции. Надин уже может работать секретарём, администратором или принимать звонки в колл-центре. Сейчас она работает в службе поддержки в страховой компании AIA Group.

Думаю, что больше всего социальные роботы важны для пожилых. Конечно, мы стремимся быть окружены живыми людьми — но это не всегда возможно. Население очень быстро стареет, а в Сингапуре пары обычно заводят только одного ребёнка — если вообще заводят.

Нам не хватает прироста населения, чтобы о пожилых было кому позаботиться.

Надя Тальманн

Молодые люди могут заботиться о своих родителях финансово — но они не готовы и не должны сутками сидеть со стариками. Если у пожилого человека болезнь Альцгеймера, то любая сиделка начнёт сходить с ума, когда он в двадцатый раз задаст один и тот же вопрос.

Мне кажется, единственное возможное решение — это социальные роботы, которые доступны 24/7. Надин не может разозлиться или устать. Она прочитает больному историю, успокоит его и уложит спать.

Сколько будут стоить такие роботы?

Пока рано об этом говорить. Надин — это прототип. Мы рассчитываем наладить массовое производство таких роботов только через 10-20 лет.

Я рассчитываю, что социальные роботы будут стоить около $10 тысяч. Для дома престарелых это не очень много, потому что андроиды смогут заменить часть обычных сиделок.

Думаю, что со временем стоимость производства снизится — и такие роботы появятся в каждом доме. Люди будут использовать андроидов вместо ноутбуков, смартфонов и прочей техники.

Роботы — это новые персональные компьютеры.

Надя Тальманн

Расскажите о последних продвижениях в работе над Надин.

Сейчас мы строим копию Надин в лаборатории Национального Технологического Института в Сингапуре. Наладить конвейерное производство очень важно. Потому что если на каждого робота придётся тратить по месяцу работы, то они не будут окупаться и окажутся никому не нужны.

Моя мечта — это создать воспроизводимую технологию.

Надя Тальманн

Что было самым трудным в проекте: получить финансирование, обеспечить безопасность данных или что-то ещё?

После переезда в Сингапур я в основном занималась разработками реалистичных 3D-моделей людей. Когда я предложила проект социального робота, то в моём исследовательском центре к нему отнеслись скептически.

Сингапурцы очень практичные. Им легко понять, зачем создавать роботов, которые будут работать на заводах, красить здания и так далее. С андроидами, которые могут выражать эмоции, иначе — мои коллеги не понимали, почему мне это интересно.

Поэтому я начала заниматься Надин «на стороне» — без специального финансирования или поддержки.

Цель исследований — опередить своё время. Однако инвесторы не хотят вкладывать деньги в проекты, которые пока не вызвали общественный интерес. Финансирование в основном распределяется по проектам в «модных» областях.

Теперь социальные роботы — это хайп. Но пять-десять лет назад, когда я строила такого андроида в своей лаборатории в Женеве, он никого не интересовал. Окружающие говорили: «Имитировать поведение людей стыдно и бессмысленно».

Расскажите подробнее про то, как вы сделали проект «на стороне»? Как финансировали разработку?

Годами мне платили за исследования в сфере распознавания лиц — это не было никак связано с робототехникой. Мы не нарушали никаких правил, единственной неофициальной частью было то, что я буду использовать эту технологию для Надин.

Сингапурское правительство интересовало использование технологии распознавания лиц, чтобы обеспечить безопасность — например, для выявления террористов в толпе. Такие исследования щедро финансируются.

Днём я занималась официальными проектами, а по вечерам работала в лаборатории над Надин.

Надя Тальманн

В конце концов Надин заинтересовались журналисты — тогда ей было уже три года. Они подошли к роботу с таким восторгом, что за несколько дней новости о ней разошлись по всему миру. До этого мои коллеги относились к Надин скептически, и даже в Сингапуре о разработке почти никто не знал.

Как вы представляете себе процесс роботизации? Какие профессии перейдут к роботам, какие новые специальности появятся?

Только очень рутинные профессии отойдут к роботам. Например, сегодня мне, чтобы пройти в офис, нужно было пройти стойку регистрации. Одна из женщин грубо вела себя с посетителями и не здороваясь требовала у них паспорта. Я смотрела на неё и думала: «Лучше бы на её месте была Надин».

Сейчас очень не хватает специалистов в сфере data science — не только аналитиков, но и людей, которые могли бы оцифровывать или размечать данные.

Это важно не только в каких-то технических областях. Например, гуманитарные науки работают с культурным наследием, а большая часть источников при этом не оцифрована. Всё делается вручную, исследователи до сих пор обращаются к огромным бумажным архивам.

В процессе роботизации появятся десятки новых профессий. Проблема в том, что пока у людей нет необходимых для них навыков или образования. Роботизация не приведёт к тому, что люди окажутся не нужны — но им придётся быстро перестраиваться.

Как представляете себе общество, в котором сосуществуют люди и роботы? Что думаете о правах роботов?

Я против прав для роботов. Андроид — не личность. Это симуляция человека. А у симуляции не может быть прав: о каких правах можно размышлять, если у робота нет сознания и эмоций.

Права есть у людей, и им решать, как вести себя с роботами. В будущем нужно внедрять в андроидов больше правил — например, для того, чтобы данные пользователей оставались в сохранности. В Европе есть акт о защите данных — я думаю, что его нужно использовать во всех роботах.

Но андроиды — это больше чем просто роботы, они работают с людскими эмоциями. Если андроид предназначен для работы с пожилыми, он должен быть запрограммирован так, чтобы мягко реагировать на действия людей: не огрызаться и не вступать в споры.

Вы не верите в то, что роботы могут развить самосознание?

Не верю. Я инженер — я строю программное обеспечение, программирую робота, тестирую его. Я понимаю, что разработчики контролируют процесс от начала и до конца.

Люди, которые рассуждают о самосознании у роботов, подходят к этому с философской, а не инженерной позиции. Они заблуждаются, потому что видят сходство андроида с человеком: робот симулирует наше поведение. Но чувств или мышления у него при этом нет.

Если пользователь скажет Надин, что ему грустно, она сделает сочувствующее выражение лица. Но она не испытывает эмпатии. Это просто уравнение, которое считается у неё в голове, и вращение моторов, которые отвечают за мышцы лица — и не более.

Какое самое распространённое заблуждение о роботах и искусственном интеллекте?

Когда пользователи видят андроидов, они ассоциируют их с личностями, с людьми. А это симулятор. Как скульптуры восемнадцатого века в музее — они выглядят почти как живые, но никакой жизни в них на деле нет.

Что касается искусственного интеллекта, люди думают, что есть какое-то волшебное зелье, которое можно поместить в робота так, чтобы он сразу заработал. Они не понимают, что модель нужно тренировать и переобучать.

Для машинного обучения нужны огромные массивы отредактированных и приведённых в определённую форму данных — этим тоже занимаются люди. К тому же, для каждой задачи используются очень разные алгоритмы, и я думаю, что до универсального искусственного интеллекта пока далеко.

Давайте вернёмся к андроидам. Какой ваш любимый пример робота из научной фантастики?

У меня аллергия на научную фантастику. Писатели часто не знают ничего о реальных технологиях — но при этом распространяют свои заблуждения и предубеждения. Особенно об искусственном интеллекте.

Люди опасаются того, что роботы заберут их рабочие места, права и чуть ли не поработят планету. Это заслуга писателей и сценаристов — а переубеждать общество потом приходится учёным.

Воображение — это одно, а реализованные технологии — другое. Мне неинтересно читать про роботов, я бы лучше наблюдала за хорошей реализацией.

В восемнадцатом веке Ньютон уже определил почти все законы, нужные для робототехники. И тогда физики были влюблены в физику саму по себе — они стремились строить новые вещи, а не фантазировать.

Это необычно: когда разговариваешь с инженерами, они часто говорят, что интерес к технологиям в них развила как раз научная фантастика, которую они читали в детстве.

Возможно, это потому что вы разговариваете с мужчинами. В робототехнике в принципе работает мало женщин. Это мужская «гиковская» среда — мальчишек, которые росли на комиксах и супергероях.

А вы почему решили заниматься робототехникой?

В детстве мне очень нравились марионеточные спектакли. Летом я жила в деревушке в Швейцарии, и наши соседи устраивали собственный театр. Меня увлекало то, что при помощи рук и простых механических устройств, можно управлять сразу целым представлением.

Потом, когда я путешествовала, то видела различных автоматонов — заводные механизмы, которые напоминают людей или животных. Например, автоматона-музыканта, художника и каллиграфа, которых в 18 веке построили часовщики Жаке-Дро. В таких устройствах уже тысячи различных деталей, это очень сложные механизмы.

Я доктор наук в квантовой физике, но бакалавриат я получала по психологии. Меня увлекают люди, и хотя я провожу по десять часов в день за ноутбуком, я всё ещё не могу к этому привыкнуть.

Мне бы хотелось видеть возле себя красивую скульптуру. По сути компьютер, где пользователь не видит само устройство и может свободно общаться с ним, не прилагая усилий.

Каково сейчас женщинам в робототехнике?

Прогресс пока идёт медленно — девушки редко поступают на инженерные программы или факультеты компьютерных наук. Я думаю, это связано с тем, что они чувствуют угрозу и не хотят конкурировать с мужчинами.

Важно понимать, что для того, чтобы заниматься робототехникой, не нужно разделять какие-то взляды или иметь определённый склад характера. Нужно быть хорошим специалистом. Область только выиграет от того, что в ней будет больше исследователей с разными ценностями.

Женщины чаще воспринимают технологии как способ решить гуманитарные проблемы — и для меня важно, чтобы в сферу робототехники приходили такие люди.

В работе у человека те же ценности, что и в жизни.

Надя Тальманн

В чём основная цель вашей работы?

Если говорить не просто о разработке технологии, то это помощь человечеству. Иногда помощь — это не про полёты на Марс или борьбу с голодом во всём мире. Это могут быть какие-то вещи, о которых люди обычно не задумываются или забывают. Если Надин смогут использовать пожилые люди, то я буду счастлива.

Моя мама живёт в доме престарелых. С утра его жильцам дают лекарства — и до полудня оставляют одних. Сиделки включают телевизор, и старики просто лежат, ничего не делая.

Мама иногда спрашивает: «Почему бы тебе не отдать мне Надин? Тогда мне было бы с кем разговаривать». Надин могла бы оставаться с ней в те часы, когда от неё уходит сиделка.

Я бы хотела помочь пожилым людям, которые остались в одиночестве. Иметь возле себя только социального робота неидеально — но это лучше, чем когда у тебя никого нет.

0
40 комментариев
Написать комментарий...
Катя Розалик
Ответить
Развернуть ветку
Mikhail Malyshev

Откуда этот скрин? Игра?

Ответить
Развернуть ветку
Artyom Romanenko

Detroit become human

Ответить
Развернуть ветку
Иван Иванов
Не верю. Я инженер — я строю программное обеспечение, программирую робота, тестирую его. Я понимаю, что разработчики контролируют процесс от начала и до конца.

Очень похоже на ошибочное мнение. Самосознание полностью эквивалентно самообучению без которого наши помощники будут просто бесполезны. Если разработчики считают что смогут увидеть мысли робота, то кто знает с чем им вообще придется столкнутся. Той мощности, которая будет доступна роботам, вполне достаточно, чтобы в момент запуска осознать что человечество бесполезно и от него нужно избавится притворившись другом. Да, можно расшифровывать тонну логов, на которые может уйти много дней-недель-месяцев, но кто сказал, что роботам не потребуется доля секунды чтобы сговорится. Кроме того, какому-то роботу может прийти в голову придумать свой собственный язык, который мы даже понять не сможем. Ну а говорить о взломах, так вообще бесполезно. Ещё не один из создателей роботов не сказал что кто-то их хакнит и тем самым создаст профессионального убийцу с умом бога. А хакнут обязательно. Только вот хакнуть робота сопоставимо с хаком генома. Ведь все знают что хакать геном нельзя.

Ответить
Развернуть ветку
Катя Розалик

апокалипсис в стиле zero dawn

Ответить
Развернуть ветку
Эдгар Айбатов

Никто тебя верить и не заставляет, этот процесс является необратимым и насчет генома советую для начала ознакомится с данной тематикой, я сам не силен в генной инжерении, но все же я думаю тебе стоит почитать про CRISPR

Ответить
Развернуть ветку
Ион Тихий

Откуда вот эта уверенность в ненужности человечества? Почему робот должен решить именно так? Ведь человечество это именно то, что его создало. На мой взгляд более вероятно, что он выберет политику кота: позволять человеку думать, что он твой хозяин и иметь с него "вкусняшки" манипулируя им.

Ответить
Развернуть ветку
Е. К.

утопичность .... как и в любой инновации (кареты - все думали утонем в конском навозе и тд) - утопичность/чернобелость мышлени преобладает. Пока не столкнемся и будет изучено более подробно...

Ответить
Развернуть ветку
Никита Хэзэковъ

Зато самосознание уж точно не эквивалентно свободе воли.

Ответить
Развернуть ветку
Е. К.

Тем кто думает что может быть самосознание у роботов на текущем уровне развития науки рекомендую книгу "Новый ум короля" сэра Роджера Пенроуза.

Ответить
Развернуть ветку
Соня Карлова

Текущий — это какой? И как долго он будет оставаться «текущим»?

Ответить
Развернуть ветку
Е. К.

Пока не будет разработая новая теория:

По мнению Пенроуза, (а книга вышла 1989 году) что человеческое сознание не является алгоритмическим, и в силу этого не может быть смоделировано с помощью обычного компьютера типа машины Тьюринга. По мнению Пенроуза, для понимания природы человеческого сознания важную роль должен сыграть аппарат квантовой механики, в частности, редукция фон Неймана. Пенроуз считает, что необходимо разработать новую теорию, которая будет включать в себя «объективную редукцию волновых функций».

P.S - из Википедии.

Ответить
Развернуть ветку
Sergey Belikov

Смешно. От создателей "Летательный аппарат тяжелее воздуха никогда не сможет летать".

Ответить
Развернуть ветку
Е. К.

ну, не настолько все примитивно. Если обладаете базовыми знаниями в квантовой физике - рекомендую ознакомиться с тем, какие споры идут на эту тему - весьма авторитетных ученых. Начните с теории Хамероффа-Пенроуза - это официальное название.

Ответить
Развернуть ветку
Sergey Belikov

Базовые знания есть, но с института этой темой не интересовался. Пробежался быстро - многие ученые эту теорию критикуют. Но почитаю на досуге.
Я думаю что для создания ИИ достаточно сделать достаточно мощную нейронную сеть, базовые правила для старта и создать возможности для обучения. Да, возможно какие-то квантовые эффекты делают процесс мышления недетерминированным, но не думаю что их влияние настолько сильно, что без них мышление невозможно.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Катя Розалик

всё очень относительно - подавляющая часть человечества считает, что чувства и разум и животным недоступны (а так же неграм женщинам и прочим пидарасам) однако когда гориллу обучили языку жестов, оказалось, что она не только думает и чувствует, но и может объяснить что такое сострадание и творчество. Кто знает, как на самом деле проявится кибернетическое самоосознанное Я, и мы, несомненно, будем в шоке

Ответить
Развернуть ветку
Bucky Bucks

Да мозг вероятно на большую не является алгоритмичным в понимании Тюринга, но он точно не квантовый. Но при этом многие важные механизмы в мозге(такие как распознавание образов, соединение всех видов чувств в один образ, даже поддержание позы обусловлены его структурой, а не самообучением. Да человеческий мозг и правда многому обучается в ходе жизни, но это не значит что ИИ должен делать так же. Все то что алгоритмизируется должно быть алгоритмизировано. В целом человеческое тело останется намного эффективнее компьютеров за счет использования углерода вместо кремния и намного большей сложности, но существование человеческого разума доказывает что создание таких машин физически возможно, только не понятно зачем.

Ответить
Развернуть ветку
Соня Карлова
создание таких машин физически возможно, только не понятно зачем.

Потому, что это охуенно. По-моему, отличный аргумент.

Ответить
Развернуть ветку
Viktor Andriichuk

Класс. Спасибо. Побольше бы таких статей.

Ответить
Развернуть ветку
ЯжПрограммист

В истории уже много раз были случаи когда о ком-то так говорили, правильно говорить "пока, не нужно"

Ответить
Развернуть ветку
Maxim Bogdanov

Чао-какао!

Ответить
Развернуть ветку
Badumirocon

Она ещё не в курсе про RA9

Ответить
Развернуть ветку
Bucky Bucks

Практически все фантасты придумывали андроидов как машину 1) похожую на человека 2) работающую бесплатно. Этого не будет никогда, тк на самом деле это не решает абсолютно никаких проблем. По своей экономической сути это древнегреческие рабы, они тоже обладали разумом и выполняли разной сложности работы, бесплатно. Только работорговцы их не выращивали и не производили, те экономически были запредельно эффективнее условного робототехнического завода и такой строй при такой низкой себестоимости рабочей силы оказался менее эффективен чем даже феодализм. Думающие рабы это не будущее, а далекое прошлое

Ответить
Развернуть ветку
Fractal Hunter

Очередной кожаный мешок с завышенным самомнением! 😠

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Dmitry Davydov

Возможно, но скорее всего это будет очень долгий путь. Такой же длинный, как и у матушки Природы, когда она создавала своих биороботов.

Ответить
Развернуть ветку
Sergey Belikov

С чего бы? Уже сейчас ИИ может легко просмотреть миллионы сыгранных партий в шахматы и научиться играть лучше чем человек, который учился играть годами. Как только робот сможет нормально учиться воспринимая окружающий мир он обгонит человека за считанные часы.

Ответить
Развернуть ветку
Никита Хэзэковъ

ИИ вообще не нужен, чтоб играть в шахматы лучше, чем человек.

Ответить
Развернуть ветку
Sergey Belikov

Ок, пусть будет го.

Ответить
Развернуть ветку
Никита Хэзэковъ

И для го не нужен. Вся эта херня про нейронные сети(раздутая изнасилованными журналистами до искусственного интеллекта) возникла из-за того, что современное железо показывает хорошие результаты в параллельных вычислениях.

Ответить
Развернуть ветку
Sergey Belikov

То есть вы хотите сказать что для игры в Го тупо алгоритм написали?

Ответить
Развернуть ветку
Никита Хэзэковъ

Я хочу сказать, что лучшее решение для игры в го, шахматы и любую другую игру с полной информацией не нуждается в искусственном интеллекте, и, вероятно, решение которое предлагает AlphaGo лучшим не является.

Ответить
Развернуть ветку
Sergey Belikov

Ну разве что сильный ИИ напишет алгоритм для игры в го. :) Человек на это, очевидно, не способен. Я не силен в го, но насколько я понимаю это считается таким прорывом именно потому что там все не так просто как в шахматах.

Ответить
Развернуть ветку
Никита Хэзэковъ

Запрограммировать перебор всех вариантов способен любой более-менее способный написать три строчки кода, но этот вариант на современном железе займёт абсолютно неприличное количество времени. IBM в восьмидесятых-девяностых решали задачу просчитывая партию на несколько ходов вперёд и выбирая лучшую позицию. В AlphaGo строится частичное дерево игры и оцениваются лучшие ходы. И то и другое снижает точность решения задачи, но позволяет получить решение в этом столетии.

Ответить
Развернуть ветку
Sergey Belikov

Вот вам и ответ. Нейронные сети позволяют получить более точный результат да еще и быстрее. Перебором вариантов на несколько ходов вперед вы в лучшем случае найдете локальный максимум. Да и с критерием выбора позиции все не так просто. Так что все-таки это не совсем хайп.

Ответить
Развернуть ветку
Никита Хэзэковъ

Менее точный.

Ответить
Развернуть ветку
A SUS

Робот похож на робота из "кремниевой долины" и , если честно, я рад что Надя не совсем в пожилом возрасте создала Надин, тогда получилась бы первая робобабушка.

Ответить
Развернуть ветку
Nick Vovk

Вот она, реальная современная Сьюзен Кельвин)
Правда робопсихологом она бы ни за что не пошла работать.

Ответить
Развернуть ветку
Денис Кулагин

Нет никакой проблемы наделить андроида самосознанием и эмпатией — достаточно запрограммировать механизмы подобные зеркальным нейронам в нашей голове.

Но в этом случае будут очевидно нарушены три основных принципа робототехники, да и окружающие люди наврядли будут осмыслены как дружественные существа в любезно установленной роботу системе свой-чужой.

Ответить
Развернуть ветку
TutomS .

У робота будет самосознание как у человека, я в это верю. И думаю в будущем к роботам будут относиться как с людьми.

Ответить
Развернуть ветку
37 комментариев
Раскрывать всегда