Отношения с машиной по модели человеческих
Конспект материала Fast Company о том, как корпорация Microsoft изучала работу живых ассистентов, чтобы выработать принцип создания хорошего виртуального помощника.
За всеми разговорами о том, как искусственный интеллект изменит мир, можно не заметить, как потихоньку он стал частью повседневной жизни, отмечает Fast Company. К примеру, PowerPoint Designer — функция, доступная в современной версии PowerPoint-презентаций. При создании нового слайда Designer незаметно сканирует контент, пытаясь на основе миллионов других презентаций выяснить, как его лучше представить.
Если нажать на вкладку Designer, то вместо хаотично расположенных картинок и подпунктов программа предложит три разные версии с более удачными шрифтами и подходящей рамкой вокруг изображения. То, что несколько лет назад казалось фантастикой, сегодня невероятно просто сделать.
Но за этой простотой кроется нечто странное и удивительное: когда Microsoft впервые тестировала Designer, программа оказалась абсолютно не такой, как планировалось.
«Во время первых тестов создавалось ощущение, что Designer знает лучше, чем пользователь», — объясняет Джон Фридман, партнёр и директор, отвечающий за дизайн в Microsoft и руководящий дизайном пакета Office.
Но было кое-что ещё необычнее: если следовать рекомендациям программы, то в конце получалась презентация, которая как будто была создана не самим пользователем. Казалось, компьютер просто не принимал во внимание, как выглядела остальная часть презентации.
Вместо этого он постепенно, шаг за шагом внедрялся в неё. В конце концов Microsoft решила эту проблему. Но за этими изменениями лежит один из главных принципов компании в отношении разработки ИИ: люди должны быть героями любой истории.
Принципы кажутся очевидными: «Люди — главные действующие лица», «Баланс эмоций и интеллекта», «Уважение общественных ценностей», «Уважение к контенту» и «Постепенное совершенствование». Но за ними лежит необычная история их происхождения, которая может рассказать о многом, что ждёт дизайн в будущем.
Принципы не появились уже готовыми. Они стали конечным результатом процесса, который начался пять лет назад и в который Microsoft вложила неизвестное количество миллионов долларов, пытаясь создать усовершенствованного ИИ-помощника и наблюдая за тем, как люди, работающие ассистентами, завоёвывают доверие клиентов.
Наблюдения за доверием
Пять лет назад, когда Microsoft вовсю старалась создать что-то похожее на Siri, команда разработчиков заметила кое-что странное в работе прототипов, которые тестировались пользователями. У компании было два базовых типа персонального помощника: одному в обучении помогали пользователи, другой просто угадывал, что хотел от него человек, и выдавал результаты.
Оказалось, что пользователи были более расположены к первому и не особо интересовались последним, даже когда результаты работы обоих помощников были одинаково хороши. Было что-то такое в идеи обучения помощника, что помогало людям более лояльно относиться к его ошибкам.
«Чтобы изучить эту ситуацию, мы начали опрашивать людей, работающих ассистентами, и просили их проанализировать отношения с клиентами и то, как их задачи изменялись со временем», — объясняет Роннетт Лоуренс, старший директор Microsoft по маркетингу.
Затем в исследование были включены ассистенты, только устроившиеся на работу. Команда исследователей следила за отношениями, которые у них складываются с клиентами, и просила их вести журнал, в который они должны были записывать свои чувства. Но понять, что лежит в основе этих отношений, было нелегко.
Обычно людям сложно объяснить свои сиюминутные эмоции, поэтому исследователи стали просить людей думать о музыке или произведениях искусства, которые бы передавали их настроение и чувства. «Это уже существующая практика: если людей спрашивать о музыке и чувствах, которые она вызывает, им будет легче определить эмоции, которые они испытывают сейчас», — объясняет Лоуренс.
Это было поворотное событие в исследовании. В то время в Google Now только начинали появляться такие функции, как подсчёт времени, необходимого на дорогу до работы, или оценка времени ожидания автобуса на остановке.
Команда Лоуренс заметила, что пользователи считали эти функции магическими, однако если программа ошибалась хотя бы один или два раза, обычно её отключали навсегда. Видя такую реакцию даже на маленькие ошибки, команда Лоуренс поняла, что доверие — это сложное, но важное понятие: пока люди не почувствуют какую-то привязанность к машине, они никогда не дадут ей шанс даже после одной ошибки.
Это открытие переплеталось с исследованием работы ассистентов. Выяснилось, что успех ассистентов не в том, чтобы быть умнее клиентов, а в том, чтобы быть им полезными. Так же мог себя вести и виртуальный помощник.
Чем больше задач система забирает у людей, тем внимательнее нужно следить за проявлением эмоций вроде: «Чувствую ли я себя умнее и сильнее — или просто думаю, что система умна?».
Когда люди используют систему, которая, как им кажется, имеет больше власти, чем они, то перестают считать машину партнёром. Появляются сомнения, работает ли машина в интересах человека.
Microsoft проверила это предположение: компания следила за реакцией людей на «виртуального помощника», человека за монитором, который действовал как программа. Microsoft записывала показания сердцебиения и степень расширения зрачков пользователей, которые реагировали на систему (либо самостоятельную, либо подчиняющуюся).
Этот эксперимент подтвердил то, в чём были согласны все ассистенты: доверие можно заслужить, если не скрывать лимит собственных возможностей, позволяя опыту клиентов играть решающую роль в процессе.
Как же заслужить доверие? Шаг за шагом узнавать всё больше о ком-то, пока не представится возможность удивить этого человека уровнем заботливости, которую он никогда не ожидал. Например, предложение идеального подарка для брата или сестры в тот момент, когда оно особенно нужно. Или рекомендация подходящего отеля. Хороший ассистент даст клиенту выбор и не будет навязывать своё мнение.
Экраны, которые постепенно совершенствуются
Эти уроки, усвоенные в ходе исследований и экспериментов, отражаются в том, как Microsoft подходит к разработке ИИ сейчас. Например, принцип «Люди должны быть главными действующими лицами». Также есть принцип, который гласит, что отношения должны развиваться постепенно.
С этой целью Microsoft теперь пытается создать другую модель адаптации ИИ. Идея заключается не в том, чтобы поразить кого-то функциональностью машины, а в том, чтобы постепенно заслужить доверие пользователя, предлагая ему возможность выбора, и затем в нужный момент предложить помощь, которой пользователь, возможно, не ожидал.
«Пойти от обратного было бы лишним: дать людям все эти замечательные функции сразу. В этом случае вероятность ошибки всё равно осталась бы на уровне 30%, — говорит Фридман. — Подобные модели не прокладывают путь к уверенности, а предлагают сделать "прыжок доверия". Мы пытаемся выстроить отношения, поскольку за основу берем то, как работают человеческие отношения».
Фридман привёл несколько примеров. Человек пишет работу, и машина замечает тот момент, когда его внимание рассеивается и можно предложить список подходящей литературы. Или, например, машина наблюдает за тем, как человек создаёт презентацию, понимает, кто из коллег делал похожие презентации и какими слайдами из их презентаций можно было бы воспользоваться.
«Система может помочь сделать первые шаги, если у вас ещё нет разрешения воспользоваться контентом», — добавляет Фридман. Все эти примеры иллюстрируют что-то новое в развитии дизайна взаимодействия с пользователями за последние двадцать лет.
Вместо экранов, оптимизированных для использования, теперь есть экраны, которые постепенно совершенствуются во время построения отношений с пользователем.
Существует некое противоречие между тем, что компьютер может и тем, что он должен делать. Как уважать пользователя? Дизайн, который понимает это, объясняет, откуда у программы знания, и даёт пользователям выбор.
Но укрепление правильных отношений — это не просто разработка машин и наблюдение за тем, как сильно они нравятся людям. Это путь к ответу на более глубокий вопрос: что делают люди для выстраивания отношений друг с другом?