Как технологии взламывают ваш разум: текст от иллюзиониста и специалиста по этике проектирования Google

Перевод текста Тристана Харриса на Medium.

Этот и другие материалы читайте в Telegram-канале «Репродуктор Белоусова».

Я эксперт в том, как технология взламывает наши психологические уязвимости. Вот почему я провёл последние три года в качестве специалиста по этике проектирования в Google, заботясь о том, как создавать продукты таким образом, чтобы защитить разум миллиардов людей от взлома.

При использовании технологии мы часто с оптимизмом полагаемся на всё, что она делает для нас. Но я хочу показать вам, что все может быть совсем наоборот.

Где технологии используют слабости нашего разума?

Я научился так думать, когда был иллюзионистом. Иллюзионисты начинают с поиска слепых пятен, краёв, уязвимостей и пределов восприятия людей, чтобы они могли влиять на то, что люди делают, даже не осознавая этого. Если вы знаете, как нажимать на «клавиши» в людях, вы можете играть на них, как на пианино.

И это именно то, что проектировщики продуктов делают с вашим разумом. Они играют за ваши психологические уязвимости (сознательно и неосознанно) против вас в гонке за привлечение внимания.

Я хочу показать, как они это делают.

Западная культура построена вокруг идеалов индивидуального выбора и свободы. Миллионы из нас яростно защищают наше право делать «свободный» выбор, в то время как мы игнорируем то, как этими выборами манипулируют сверху с помощью меню, которое в первую очередь выбирали не мы.

Это именно то, что делают иллюзионисты. Они дают людям иллюзию свободного выбора при разработке меню, чтобы выиграли они, независимо от того, что выберете вы. Я не могу даже передать, насколько глубоко это понимание.

Когда людям дают меню выбора, они редко спрашивают:

Например, представьте, что вы вышли гулять с друзьями во вторник вечером и хотите продолжать общение. Вы открываете Yelp, чтобы найти близлежащие рекомендации и увидеть список баров. Группа превращается в груду лиц, уставившихся в свои телефоны, которые оценивают бары. Они внимательно изучают фотографии каждого, сравнивая коктейли. Это меню по-прежнему соответствует первоначальному желанию группы?

Дело не в том, что бары — не лучший выбор, а в том, что Yelp, формируя меню, заменил оригинальный вопрос группы «где мы можем продолжить общение?» вопросом «у какого бара фотографии коктейлей лучше?».

Более того, группа поддаётся иллюзии того, что меню Yelp представляет собой полный набор вариантов выбора «куда пойти». Глядя в свои телефоны, они не видят парк через улицу с группой, играющей живую музыку. Они проходят мимо кафе на другой стороне улицы, где подают блины и кофе. Ведь ничто из этого не попадает в меню Yelp.

Чем больше возможностей для выбора даёт нам технология практически во всех сферах нашей жизни (информация, события, места для посещения, друзья, знакомства, работа), тем больше мы предполагаем, что наш телефон всегда наиболее полезен и подходит как меню для выбора. Так ли это?

«Наиболее полезное» меню — это не меню с наибольшим количеством вариантов выбора. Но когда мы слепо сдаёмся предложенному меню, легко забыть об этом:

Когда мы просыпаемся поутру и переворачиваем телефон, чтобы увидеть список уведомлений, это создаёт ощущение «пробуждения» внутри меню «всего, что я пропустил со вчерашнего дня» (например, смотрите лекцию об инновационном дизайне Джо Эдельмана).

Список уведомлений, когда мы просыпаемся утром, — насколько это меню вариантов выбора полезно при нашем пробуждении? Отражает ли оно то, что нас волнует?

Формируя меню, из которых мы выбираем, технология взламывает способ восприятия нашего выбора и заменяет его новым. Но чем внимательнее мы присматриваемся к предлагаемым нам вариантам, тем больше мы замечаем, когда они на самом деле не соответствуют нашим истинным потребностям.

Как приложению держать пользователей на крючке? Превратить себя в игровой автомат.

Среднестатистический человек проверяет свой телефон 150 раз в день. Почему мы это делаем? Мы что, делаем 150 сознательных выборов? Как часто вы проверяете свою электронную почту на протяжении дня?

Одна из главных причин, почему номер один в игровых автоматах – психологический ингредиент: периодические переменные вознаграждения.

Если вы хотите максимизировать привыкание, всё, что нужно технологическим разработчикам, это связать действия пользователя (то есть нажатие на рычаг) с переменным вознаграждением. Вы нажимаете на рычаг и сразу получаете либо заманчивое вознаграждение (три в ряд, приз!), либо ничего. Зависимость максимизируется, когда коэффициент вознаграждения наиболее переменчив.

Действительно ли этот эффект работает с людьми? Безусловно. В Соединённых Штатах игровые автоматы зарабатывают больше денег, чем бейсбол, киноиндустрия и парки аттракционов вместе взятые. По словам профессора Университета Нью-Йорка Наташи Доу Шулл, автора книги «Привыкание под действием дизайна», по сравнению с другими видами азартных игр, люди «проблематично привязываются» к игровым автоматам в три-четыре раза быстрее.

Но вот досадная истина — у нескольких миллиардов человек игровой автомат лежит в кармане:

Но в других случаях игровые автоматы возникают случайно. Например, за всей электронной почтой не стоит злая корпорация, которая сознательно решила сделать её игровым автоматом. Никто не получает прибыль, когда миллионы проверяют свою электронную почту и ничего там не находят. Также разработчики Apple и Google не хотят, чтобы телефоны работали как игровые автоматы. Это произошло случайно.

Но теперь такие компании, как Apple и Google, несут ответственность за уменьшение этих эффектов путём преобразования периодических переменных вознаграждений в менее затягивающие, более предсказуемые, с лучшим дизайном.

Например, они могут дать людям возможность устанавливать предсказуемое время в течение дня или недели, когда они хотят проверять приложения с «игровыми автоматами», и корректировать, чтобы новые сообщения доставлялись в соответствии с этими графиками.

Ещё один способ, с помощью которого приложения и сайты взламывают разум людей, — это «вероятность в 1% того, что вы упустили что-то важное».

Если я смогу убедить вас в том, что являюсь каналом для получения важной информации, сообщений, дружбы или потенциальных сексуальных возможностей, вам будет сложно отключить меня, отписаться или удалить свою учётную запись, потому что (ага, я уже выиграл) вы можете пропустить что-то важное:

Но если мы углубимся в этот страх, мы обнаружим, что он безграничен: мы всегда будем упускать что-то важное в любой момент, когда перестанем что-то использовать.

Например, в Facebook есть «волшебные моменты», которые мы упустим, если не будем использовать их в течение шести часов (например, старого друга, который прямо сейчас в городе).

Существуют волшебные моменты, которые мы упустим в приложении Tinder (например, партнёр или партнёрша для отношений нашей мечты), если не прокрутим очередное фото в 700-й раз. Существуют срочные телефонные звонки, которые мы пропустим, если не будем на связи круглосуточно.

Но жить, каждую секунду испытывая страх пропустить что-то, — это не то, для чего мы созданы.

И что удивительно, насколько быстро мы отпустим этот страх, настолько быстро мы развеем иллюзии. Когда мы отключаемся от сети более чем на один день, отписываемся от этих уведомлений или отправляемся в путешествие в глушь, опасения, которые, как мы думали, нас гложут, в действительности не оправдываются.

Мы не пропускаем того, чего не видим.

Мысль «что, если я пропущу что-то важное?» возникает до того, как отключиться, отписаться или уйти в офлайн, не после. Представьте себе, если бы технологические компании осознали это и помогли нам активно настроить наши отношения с друзьями и компаниями с точки зрения того, что мы определяем как «хорошо проведённое время» в нашей жизни, а не с точки зрения того, что мы можем упустить.

Мы все уязвимы к общественному одобрению. Необходимость принадлежать, быть одобренным или оценённым нашими коллегами — одна из самых сильных человеческих мотиваций. Но теперь наше общественное одобрение находится в руках технологических компаний.

Когда меня отмечает мой друг Марк, я представляю, как он делает сознательный выбор, чтобы отметить меня. Но я не вижу, что в первую очередь компания, например Facebook, заставила его сделать это.

Facebook, Instagram или Snapchat могут манипулировать тем, как часто люди отмечаются на фотографиях, автоматически предлагая все лица, которые люди должны отметить (например, показывая окно с подтверждением в один клик, «Может, отметите Тристана на этой фотографии?»).

Поэтому, когда Марк отмечает меня, он фактически отвечает на предложение Facebook, а не делает самостоятельный выбор. Но с помощью такого дизайнерского выбора Facebook контролирует коэффициент того, как часто миллионы людей получают своё общественное одобрение.

То же самое происходит, когда мы меняем нашу главную фотографию профиля — Facebook знает, что это момент, когда мы уязвимы к общественному одобрению: «Что мои друзья думают о моей новой фотографии?».

Facebook может поставить её выше в новостной ленте, поэтому она какое-то время будет маячить тут и там, и больше друзей будут ставить лайки или комментировать её. Каждый раз, когда они ставят лайки или комментируют, мы будем радоваться.

Каждый человек с рождения реагирует на общественное одобрение, но некоторые демографические группы (подростки) более уязвимы, чем другие. Вот почему так важно понимать, насколько могущественны разработчики, когда они используют эту уязвимость.

Мы уязвимы к необходимости отвечать взаимностью на поступки других. Но, как и в случае с общественным одобрением, технологические компании уже манипулируют тем, как часто мы подвержены этой уязвимости.

В некоторых случаях это происходит случайно. Электронная почта, текстовые сообщения и приложения для обмена сообщениями — фабрики социальной взаимности. Но в других случаях компании используют эту уязвимость намеренно.

LinkedIn — наиболее очевидный виновник. LinkedIn хочет, чтобы как можно больше людей создавали социальные обязательства друг перед другом. Каждый раз, когда люди отвечают взаимностью (принимая заявку, отвечая на сообщение или одобряя кого-то в ответ за навык), они должны возвращаться на сайт linkedin.com.

Как и Facebook, LinkedIn использует асимметрию в восприятии. Когда вы получаете от кого-то приглашение установить контакт, вы представляете себе, что человек делает осознанный выбор пригласить вас, хотя в действительности он, вероятно, неосознанно ответил на список предлагаемых контактов LinkedIn.

Другими словами, LinkedIn превращает ваши неосознанные побуждения («добавить» человека) в новые социальные обязательства, на которые миллионы людей чувствуют себя обязанными ответить. Все время они получают выгоду от времени, которое люди тратят на это.

Представьте себе, как миллионы людей в течение дня так прерываются, бегают словно цыплята с отрубленными головами, отвечают друг другу взаимностью: всё это разработано компаниями, которые получают от этого выгоду.

Добро пожаловать в социальные сети.

Представьте, если бы технологические компании несли ответственность за минимизацию социальной взаимности. Или если бы существовала независимая организация, представляющая интересы общественности, отраслевой консорциум или FDA по технологиям, которая отслеживала бы, когда технологические компании злоупотребляли бы такими склонностями?

Ещё один способ взломать людей — заставить их съесть что-то, даже если они больше не голодны.

Как? Да легко. Возьмём опыт, который был ограниченным и конечным, и превратим его в бесконечный поток, который всё течёт и течёт.

Профессор Корнеллского университета Брайан Вансинк продемонстрировал это в своём исследовании, показав, что вы можете заставить людей продолжать есть суп, дав им бездонную миску, которая автоматически наполняется, когда они едят. Из бездонных мисок люди потребляют на 73% больше калорий, чем из обычных, и недооценивают, сколько они потребили.

Технологические компании используют тот же принцип. Ленты новостей специально предназначены для автоматического заполнения с той целью, чтобы вы прокручивали их, и намеренно устраняют любые причины, которые могут заставить вас остановиться, передумать или выйти.

По той же причине сайты и социальные сети с видео, такие как Netflix, YouTube или Facebook, автоматически воспроизводятследующее видео после обратного отсчёта, а не ждут, когда вы сделаете осознанный выбор (в случае, если вы этого не сделаете). Огромная часть трафика на этих сайтах управляется автоматическим воспроизведением следующего материала.

Технологические компании зачастую заявляют: «Мы просто помогаем пользователям просмотреть видео, которое они хотят просмотреть». На самом деле они просто служат своим бизнес-интересам. И вы не можете их винить, потому что увеличение «затраченного времени» — валюта, за которую они борются.

Вместо этого представьте, что технологические компании позволили бы вам сознательно ограничивать ваш опыт до того, что было бы «с пользой потраченным временем» для вас. Не просто ограничивать количество потраченного времени, но качество того, что было бы «с пользой проведённым временем».

Компании знают, что сообщения, которые мгновенно перебивают людей, эффективнее, чем сообщения, доставляемые асинхронно (например, электронная почта или любая отложенная входящая почта).

При наличии выбора Facebook Messenger (или, например, WhatsApp, WeChat или Snapchat) предпочёл бы спроектировать свою систему обмена сообщениями так, чтобы мгновенно прерывать получателей (и показать окно чата) вместо того, чтобы позволить пользователям уважать внимание друг друга.

Другими словами, перебивание полезно для бизнеса.

В их интересах также усилить чувство срочности и социальной взаимности. Например, Facebook автоматически сообщает отправителю, когда вы «увидели» его сообщение, вместо того чтобы позволить вам не раскрывать, прочли ли вы его или нет («теперь, когда вы знаете, что я увидел сообщение, я чувствую себя ещё более обязанным ответить»).

Apple, напротив, более уважительно позволяет пользователям включать или отключать «Уведомление о прочтении».

Проблема в том, что максимизация прерываний во имя бизнеса создаёт трагедию общин, разрушая глобальную устойчивость внимания и вызывая миллиарды ненужных прерываний каждый день. Это огромная проблема, которую мы должны решить с помощью общих стандартов проектирования (возможно, в рамках Time Well Spent).

Ещё один способ, которым приложения взламывают вас, —использование ваших причин для использования приложения (для выполнения задачи). Компании делают ваши причины неотделимыми от бизнес-причин приложения (максимизировать то, сколько мы потребляем, как только мы находимся в этих приложениях).

Например, в физическом мире универсальных магазинов две наиболее популярные причины посещения — покупка лекарств и молока. Но продуктовые магазины хотят максимизировать количество купленного людьми, поэтому они располагают лекарства и молоко в глубине магазина.

Другими словами, они делают то, что хотят клиенты (молоко, лекарства) неотделимым от того, что хочет бизнес. Если бы магазины были действительно организованы для пользы людей, они бы выставляли самые популярные товары в начале.

Технологические компании разрабатывают свои сайты таким же образом. Например, если вы хотите просмотреть сегодняшнее событие в Facebook (ваша причина), приложение Facebook не позволит вам получить к нему доступ без предварительного просмотра новостной ленты (их причины), и это сделано намеренно. Facebook хочет использовать каждую причину, по которой вы заходите в Facebook, чтобы увеличить время, потраченное на продукт.

Вместо этого представьте, если бы:

В мире Time Well Spent всегда существует прямой способ получить то, чего вы хотите, отдельно от того, чего хотят компании. Представьте себе цифровой «билль о правах», в котором изложены стандарты проектирования. Они вынуждают популярные продукты разрабатывать сценарии для пользователя, где компания не сможет намеренно отвлекать внимание.

Представьте, что веб-браузеры позволили бы вам переходить непосредственно к тому, чего вы хотите, особенно это касается сайтов, которые намеренно отклоняют вас в сторону их причин.

Нам говорят, что для бизнеса достаточно «сделать выбор доступным».

Компании хотят сделать желаемый выбор проще, а неудобный — сложнее. Иллюзионисты занимаются тем же. Вы помогаете зрителю выбрать то, что вы хотите, и затрудняете ему выбор того, что не желаете.

Например, The New York Times позволяет «сделать свободный выбор» для отмены цифровой подписки. Но вместо того чтобы просто сделать это, когда вы нажмёте «Отменить подписку», они отправят письмо с информацией о том, что подписку можно отменить по телефону и только в определённое время.

Вместо того чтобы рассматривать мир с точки зрения доступности выбора, мы должны рассматривать мир с точки зрения сопротивления, необходимого для того, чтобы сделать выбор.

Представьте себе мир, в котором выбор был помечен тем, насколько трудно его сделать (например, коэффициентами сопротивления), и существовал независимый субъект, отраслевой консорциум или некоммерческая организация, который помечал бы эти трудности и устанавливал бы стандарты того, насколько простой должна быть навигация.

Наконец, приложения могут использовать неспособность людей прогнозировать последствия клика.

Люди не могут интуитивно прогнозировать истинную стоимость клика, когда его им предоставляют. Продавцы используют технику «нога в дверном проёме», делая для начала небольшой безобидный запрос («один клик, чтобы увидеть, какой твит был ретвитнут») и наращивают его («почему бы вам не задержаться?»). Практически все затягивающие сайты используют этот трюк.

Представьте, что браузеры и смартфоны, шлюзы, через которые люди делают этот выбор, действительно бы следили за людьми и помогали бы им прогнозировать последствия кликов (на основе реальных данных о том, какие выгоды и затраты они понесут на самом деле).

Вот почему я добавляю «Приблизительное время чтения» в начало своих публикаций. Когда вы указываете «истинную цену» выбора перед людьми, вы относитесь к своим пользователям или аудитории с достоинством и уважением.

В сети Time Well Spent выбор может быть определён с точки зрения прогнозируемых затрат и выгоды, поэтому люди по умолчанию могут делать осознанный выбор, не выполняя дополнительную работу.

Вы огорчены тем, что технология взламывает вашу самоидентификацию? Я тоже. Я перечислил несколько методов, но их буквально тысячи.

Представьте себе целые книжные полки, семинары, тренинги, которые обучают начинающих технологических предпринимателей таким методам. Представьте себе сотни инженеров, чья работа каждый день заключается в том, чтобы придумывать новые способы подцепить вас на крючок.

Абсолютная свобода — это свобода разума, и нам нужны технологии, которые уже имеются в нашей команде, чтобы помочь нам жить, чувствовать, думать и действовать свободно.

Мы нуждаемся в том, чтобы наши смартфоны, экраны уведомлений и браузеры были экзоскелетом для разума и межличностных отношений, которые ставят на первое место ценности, а не импульсы. Время людей — это ценность. И мы должны защищать его с той же строгостью, что и конфиденциальность, и прочие цифровые права.

Тристан Харрис был специалистом по этике проектирования в Google до 2016 года, где он изучал, как технология реструктурирует внимание, благополучие и поведение двух миллиардов людей. О Time Well Spent и Центре гуманных технологий можно почитать здесь: humanetech.com.

Подобные материалы, инсайты маркетинга и бренда читайте из первых уст в Telegram-канале автора перевода — Николая Белоусова.