Социальная дилемма или Как выбраться из матрицы, если ты не знаешь, что ты в матрице

По всему миру происходят важные изменения благодаря онлайн-платформам. Они помогают делать потрясающие вещи: воссоединять членов семьи, искать доноров органов и спасать жизни, предотвращать катастрофы и придавать огласке значащую информацию, решения и пр. Но обратную их сторону мы недооценивливали.

«Они начинают жить своей жизнью, и их используют не так, как ты задумывал.» — так высказывается один из героев фильма, принимающих участие в создании одной из компаний большой пятерки.

Никто не планировал подобных последствий, но десятки и сотни миллионов людей стали зависимы от своих электронных устройств.

Я выделила несколько тезисов, затем сгруппировала их в 5 частей по тематике и сфере влияния:

I — Цели и методы их достижения

II — Экономика внимания

III — Зона контроля

IV — Поляризация и стандартизация

V — Выводы и перспективы

Три основные цели крупных компаний:
1. Вовлекать — смотреть чаще/листать дольше;

2. Расширять — возвращаться/делиться;

3. Рекламировать — чтобы отслеживать и зарабатывать больше.

За каждую цель отвечает алгоритм, задача которого понять, что нужно показать, чтобы цифры продолжали расти.

Из инструмента в оружие
Инструмент – то, что лежит и ждет своего часа. А если он что-то от тебя требует, соблазняет и манипулирует, это не инструмент. Это техническое оружие зависимости.

У социальных платформ есть свои цели и свои методы их достижения. Они используют психологию человека против самого человека.

Индивидуальный интеллект
Заблуждение — смотреть на транслирующиеся в медиа дроны и трансформеры — и представлять такое же будущее. Искусственный интеллект уже управляет миром, и это лишь метафора, олицетворяющая тысячи компьютеров.

Главное, что алгоритмы, заложенные в них, не объективны. Они оптимизированы под определенные критерии эффективности. У каждого коммерческого предприятия индивидуальное определение успеха. Но одно из фундаментальных — прибыль.

Очень мало людей работающих в компаниях большой пятерки понимают эту систему. Она контролирует нас больше, чем мы все об этом знаем.

Убеждающая технология
Тип дизайна, который в крайнем своем проявлении призван менять поведение людей. Например, тянешь вниз ленту и появляется что-то новое. Эффект называется «непостоянное позитивное подкрепление» — ты не знаешь, что и когда ты получишь, и получишь ли вообще.

»»»»»»»»

Если ты не платишь за товар, значит ты и есть товар
В последние 10 лет крупные компании начали не создавать продукты, а продавать своих пользователей. Звучит избито, но если мы не платим за продукты, которыми пользуемся, то за них начинают платить рекламодатели, и тогда мы становимся продуктом. Который продают и которым пользуются.

Это новый, никогда не существовавший прежде рынок — рынок внимания, — занимается торговлей человеческими фьючерсами и составляет триллионы долларов. Именно это сделало такие компании, как гугл, фейсбук и др. самыми богатыми в истории человечества.

Какую часть своей жизни ты отдашь нам?
Бесплатные сервисы вовсе не бесплатные. Мы платим за них своим временем и присутствием. Наше внимание — вот тот товар, который покупают рекламодатели. Товар — это постепенное, незаметное изменение поведения и восприятия человека.

Т.о крупные компании зарабатывают тем, что меняют поведение, мышление, мотивации и цели людей.

Мы проводим свое время, пялясь в экран на рекламу. Корпорациям не выгодно, если мы продолжаем наслаждаться своей жизнью. Вот вам и результат: они используют мощные технологии, чтобы перехитрить нас, приковать наше внимание к тому, что нужно им, а не к тому, что согласуется с нашими целями, ценностями и самой жизнью.

»»»»»»»»

Надзорный капитализм
Современная бизнес-модель крупных корпораций, которая позволяет проводить успешные рекламные кампании путем систематического отслеживания действий потребителя.

Каждое действие видят, отслеживают и измеряют
У этих компаний о нас больше информации, чем люди на протяжении всей истории могли только представить. Мы думаем, что просто гуглим информацию и скролим ленту, чтобы посмотреть на друзей, не понимая, что в этот момент кто-то тщательно изучает наши действия, наше поведение, наши выборы, наши интересы, наше активное время использования, подписки и т.д.

Фокусник понимает ту часть разума, которую мы не понимаем, поэтому иллюзия работает или Программирование выходит за рамки

Фундаментом новой культуры общения стала манипуляция. Это умышленное использование человеческой уязвимости. С целью не просто привлечь к использованию, но выработать привычку, то есть «запрограммировать»: встроить в мозг на неосознанном и глубочайшем уровне психики.

»»»»»»»»

Мир противоречив, и в наше время столкнулось большое количество идеологий с диаметрально разными ценностями.

Стандартизация
Эволюция не готовила нас к тому, что за нами будут следить десятки тысяч нам подобных. Мы не приспособлены к перманентному получению социального одобрения и эволюционировали совсем не для этого.

Сейчас мы выстраиваем свои жизни вокруг предполагаемого идеала, потому что нас ждут краткосрочные награды в виде лайков (конвертирующих одобрение человеком из физического мира в цифровой). Мы наделяем их ценностью. В итоге попадаем в порочный круг, начинаем думать, что же сделать еще. Другими словами, наша внутренняя система привыкает, требует и ищет дофамин.

Еще один феномен — эмоциональное атрофирование.
Если мы не уверены или боимся у нас всегда есть цифровое развлечение. Это атрафирует способность с этим справляться, и мы буквально изолируем себя в этом пузыре. Так появился стандартный метод избегания невзгод. Этакий атракцион, доступный с ранних лет. Поглощающий и подсаживающий тебя на мгновенную транспортировку в «чужие» жизни, события, чувства.

Обратная сторона стандартизации — поляризация — приводит к размытию социальной структуры и основы ее функционирования — общности, согласованности, единству.

Если представить, что википедия начала показывать всем только персональные данные, основываясь на человеке, это будет выглядеть абсурдно. Но именно этим и знаимаются гугл, ютюб, инстаграм, фейсбук, и пр.платформы.

Результаты списка/ленты/рекомендаций зависят от множества факторов: географического расположения и интересов отдельного человека.

У каждого получается своя реальность со своими фактами. Со временем у нас возникает ложное чувство, что все вокруг с нами согласны, потому что все в ленте совпадает с нашими суждениями, и в этом состоянии нами очень легко манипулировать.

Спойлер: это не было умышленно. Никто на самом деле так не хотел. Просто так работает система рекомендаций.

В заключение фраза одного из героев фильма:

«Мы нация людей, которые перестали разговаривать, которые отказываются от друзей из-за противоположных идеологических взглядов, которые смотрят только те каналы, в которых говорят, что мы правы.
Трайболизм нас уничтожает и разрывает на части. Если все придерживаются своих фактов больше не нужны компромисы. Людям больше не нужно объединяться. Нам вообще больше не нужно общаться.»

Неприспособленность
Нельзя быть просто уверенным в том что, «мы адаптируемся так же, как и ко всем остальным открытиям/«оптимизациям/улучшениям». Нужно понимать, что это что-то принципиально новое.

В дополнение нужно учитывать, что параллельно с развитием инструментария и оптимизацией окружающей среды люди разумом(психологически) и телом(физиологически) совсем не эволюционировали.

»»»»»»»»

Многие технологические конгломераты утверждают, что решение проблемы — в создании мощного искусственного интеллекта, который справился бы с социальными проблемами.

Они говорят об ИИ так, будто он знает правду.
Но искусственный и. не решит проблему. Нет возможности спросить у гугла «это теория заговора или это правда?», потому что они не знают правды. У них нет фильтра для правды, которую можно включить.

«Если мы не сойдемся на том, что есть правда и существует ли правда совсем, нам конец. Это проблема под другими проблемами, потому что если мы не решим, что правда, мы не сможем решить ни одну из проблем.»

Причина не в технологии
«Технологии сами по себе не являются экзистенциальной угрозой. Угроза — это способность технологий пробуждать худшее что есть в обществе. А вот худшее, что есть в обществое, — это и есть экзистенциальная угроза.»

Если технологиии вызывают массовый хаос, агрессию, бескультурие, недоверие, одиночество, поляризацию, потерю концентрации, популизм — это и есть общество.

Но теперь оно просто не способно само себя исцелить, и начинает скатываться в хаос.

Гонка за внимание никогда не закончится. Технологии будут интегрироваться в жизнь еще больше, ИИ научится еще эффективнее удерживать нас у экрана.

Люди в ловушке у бизнес модели стимулирующей экономики. Нормально то, что компании зарабатывают деньги. Ненормально — что нет регулирования, правил и конкуренции. Компании де факто становятся государством и монополизируют рынок.

Миром правит финансовое стимулирование, и у компаний нет финансовых причин для перемен.

Их надо регулировать, но законы сильно отстают: текущая ситуация направлена не на защиту пользователей, а на защиту прав и привеллегий гигантских и невероятно богатых компаний.

Одним из решений, обсуждаемых в фильме, было обложение налогами сбор и обработку данных: тогда у компаний не будет финансового интереса собирать крупицы дынных по всему интернету.

Мы должны думать о том, как сделать мир лучше: потребовать гуманную разработку продуктов и не обращаться с нами, как с источником ресурса.

«Мы живем в мире, где мертвое дерево выгоднее живого в финансовом плане. В мире, где мертвый кит гораздо ценнее чем живой. Пока наша экономика работает таким образом, а корпорации никто не регулирует, они будут продолжать бурить землю и добывать из под нее нефть, хоть мы и знаем, что уничтожаем планету и что для будущих поколений мир станет гораздо хуже. Мы не думаем наперед из за новой религии «прибыль любой ценой». Нужно осознать, что теперь мы — те самые деревья и те самые киты. Наше внимание добывают также. Не следует использовать на живых людях модель по выкачиванию внимания. Здоровое общество возможно лишь с отказом от этой бизнес идеи.»