Пора разоружать технополию и управлять технологической эволюцией

The New Yorker публикует эссе Cal Newport, профессора Университета Georgetown, которое заставляет задуматься об изменениях, происходящих в нашем отношении к технологиям. Профессор вводит новый термин- техно-селекционизм. Он противопоставляет его техно-оптимизму и техно-скептицизму. Техно-селекционизм – это взвешенное и прагматичное отношение к новым технологиям, подразумевающее их оценку с точки зрения баланса получаемого блага и вреда. Профессор напоминает о работе известного американского писателя Neil Postman «Технополия». Neil Postman написал свою книгу в далеком 1992 году и уже тогда признал, что инновации и технологии заняли первое место в жизни человека. Эпоха технологического развития, названная технополией, призывает принимать любую технологию вне зависимости от того, приносит ли она больше блага или вреда. Технополия заставляет людей чувствовать стыд, если они не поддерживают инновацию. Эта эпоха называет луддитом каждого, кто задает вопрос о негативных последствиях новшеств, и характеризуется слепой верой, что любая новая технология должна применяться.

Профессор Cal Newport считает, что эпоха технополии подходит к концу. Начала ее заката совпадает со скандалом вокруг выборов в США. Именно тогда люди стали задумываться, что соц.сети – это, конечно, хорошо и без них не прожить, но пользоваться то Фейсбуком стоит с осторожностью, вспоминая историю с Cambridge Analytica. Закат технополии позволил появиться движениям за безопасность детей в сети. Конгресс США уже два года обсуждает двухпартийный Закон, и логика политиков уже не сводится к концепции, что, если соц.сети существуют и ими пользуются, значит, с их негативными эффектами надо смириться и точка. Профессор напоминает послание Neil Postman из 1992 года: «Если технология прижилась, то она начинает работать: она делает то, для чего ее создали. Наша задача – понять, для чего эта технология была создана, чтобы, впуская в нашу культуру это новшество, мы делали это с широко открытыми глазами». Наши глаза уже открыты, считает профессор. Пора действовать прагматично.

По мере того, как развиваются технологии, нам пора остановить безакцептное принятие негативных последствий этого прогресса и не считать их такими же неизбежными как позитивные эффекты.

Осенью 2016 года – это год, когда доля взрослых людей, пользующихся социальными медиа, достигла 80% - колумнист Cal Newport (он также профессор компьютерных наук Университета Georgetown с степенью Ph.D. от M.I.T.) опубликовал статью в NYT, которая ставила под сомнение расхожее мнение, что нам нужно культивировать свой бренд в соц. сетях для успеха на рынке труда.

Cal Newport: «Я думаю такая практика приведет совсем не к тем результатам, что вы ожидаете. В экономике капитализма рынок вознаграждает редкие и ценные вещи. Использование соц.медиа это точно не редкая и не ценная активность». Cal тогда предположил, что работники знаний лучше потратят свое время на развитие навыков, чтобы приобрести конкурентные преимущества в своей экспертной области. Статья тогда стала популярной, в том числе благодаря яркому заголовку: «Бросай соц.медиа. От этого может зависеть ваша карьера».

На эту статью последовала бурная реакция. Издание CBC пригласило Cal Newport на радиопередачу, чтобы обсудить его эссе. На передаче ведущий через пять минут объявил, что пригласил еще двух спикеров, чтобы опровергнуть выводы Cal. Один известный профессор в области коммуникаций стал посылать Cal письма с предложением обсудить тему. Издание NYT опубликовало через две недели новую статью под названием: «Не бросай соц.медиа. От этого может зависеть ваша карьера». Статью написал Patrick Gillooly, директор по коммуникациям сайта по поиску работы Monster. Patrick Gillooly изложил свое мнение техно-оптимиста. «В случае с клиентами представление себя в соц.медиа облегчает взаимопонимание и поиск общих тем».

Эссе Cal Newport выделялось среди статей того времени, так как критика техно оптимизма воспринималась как привлечение внимания в каких-то целях. Многие уважаемые писатели и исследователи, включая Baratunde Thurston и danah boyd, популяризировали идеи ограничить время провождение в Интернете, акцентируя внимание, что онлайн жизнь становится все более значимой. Но люди не хотели уходить из сети. Знаменитый техно евангелист Jaron Lanier написал Манифест 2020 - «Ты не гаджет». Он обвинил консолидацию интернет-активности на ограниченном количестве платформ, таких как Фейсбук и Твиттер. Его манифест многие хвалили за оригинальность и здравый взгляд на интернет, но многие читатели отвергали его идеи как слишком радикальные. Jaron Lanier заявил, что тогдашний сдвиг мира в сторону Web 2.0., в котором запостить информацию было также легко, как ее прочесть, - это ошибка. Даже Guardian опубликовало обзор Манифеста Lanier, но, по сути, дало понять, что не следует воспринимать его предупреждения слишком серьезно.

Тогда критика на эссе Cal Newport и Манифест Lanier было реакцией культурного иммунитета общества. Идея прекратить использование таких инструментов как соц.сети была неприемлема. Читатели хотели быть уверенны, что такие советы могут быть легко проигнорированы. Neil Postman, теоретик коммуникаций, умерший в 2003 году, не был бы удивлен такой реакцией общественности. Neil Postman известен критикой телевидения. В 1992 году он написал книгу «Технополия: капитуляция культуры перед технологией». В книге он заявил, что наши отношения с технологиями проходят три фазы. Первая: культуры используют технологии как орудия для решения конкретных каждодневных задач в жизни, например, водяные мельницы нужны были для того, чтобы перемолоть зерно. Потом взлет индустриального капитализма привел к состоянию «технократии» - это эпоха, в которой технологии претендуют быть более ценными, чем ценности, которые раньше определяли существование человека. Сельские общества были опустошены, неравенство стало нормой, духовность отошла на второй план, а ландшафт местностей был увешан линиями телеграфа и железными дорогами. Все это было результатом появления новых инструментов и безудержного требования эффективности.

Тогда Neil Postman писал, что «традиции, социальные нормы, убеждения, политика, ритуалы и религия должны были сражаться, чтобы остаться в жизни людей». Так и было. William Blake, John Ruskin и Henry David Thoreau, как и многие другие, осуждали негативные последствия индустриализации, в то время как движение Луддитов проводило протесты против автоматизации труда и концентрации прибыли в руках корпораций. Марк Твен описал свое мальчишеское восхищение фабриками по производству хлопка в своих мемуарах «Жизнь на Миссисипи». Потом он написал «Гекельберри Флин». Этот роман Neil Postman назвал «торжеством вечной духовности дотехнологического человека».

Удивительно, но по мнению Neil Postman, мы больше не живем в технократическую эпоху. Мы живем в эпоху технополии. Neil Postman заявляет, что в этот третий период развития технологий борьба между новыми технологиями и традиционными ценностями завершилась, и победили первые. По словам Neil, «все формы культурной жизни подчинились суверенитету техник и технологий». Инновации и все возрастающая эффективность стали бесспорными механизмами прогресса, и любые сомнения в необходимости внедрять новые технологии отходят на второй план. «Технополия уничтожает любые альтернативы себе именно тем способом, который описал Aldous Huxley в своем романе «О новый дивный мир». Она не объявляет альтернативы незаконными или аморальными. Она даже не объявляет их непопулярными. Просто она делает их невидимыми и поэтому неподходящими для применения». «Технополия», - пишет Neil Postman,- «это тоталитарная технократия».

Книга Neil Postman помогла Cal понять реакцию общественности на его статью о соц.сетях. В технополии мысль, что какую-то новую технологию- например соц. медиа, - нужно отменить, является немыслимой. Такую идею в технополии нужно сделать невидимой, чтобы она не обсуждалась совсем. Фраза «уйти из соц.сетей» в заголовке известной публикации выглядела как технический сбой матрицы, который следовало немедленно исправить, а затем объяснить, почему это не так. В 2016 году Neil Postman не осознал, что хотя хватка технополии была очень сильной, но со временем она все равно должна была ослабнуть. Первые трещины в основании технополии уже начали появляться.

Основным источником дестабилизации технополии стали выборы Трамп-Клинтон. Эти выборы стали пусть и неявным, но реальным сдвигом отношения людей к тем продуктам, что поступают из Силиконовой Долины. Консерваторы стали опасаться цензуры соц.сетей, либералы стали больше волноваться о появлении дезинформации из иностранных источников, и все сочли крайне тревожной историю об использовании данных Фейсбук компанией Cambridge Analytica. Опасения обеих партий привели многих партийных сторонников к переосмыслению инструментов соц.медиа. Те, кто считал использование таких платформ как Фейсбук полезным или даже обязательным, начали относиться к этим платформам более осторожно. Сдвиг в восприятии может казаться пока очень незаметным. Но раз посеяно семя, то из него выросло сомнение , что любая инновация - это благо, и необходимо благоговеть от ожидания следующей технологии.

Сегодня мы можем увидеть уже сформированную концепцию нового отношения к технологиям. Это можно наблюдать на примере текущей борьбы против навязывания использования генеративного ИИ (например, ChatGPT от OpenAI). Компании-разработчики алгоритмов восхваляют свои технологии как из книги Neil Postman, заявляя, что технологические достижения неизбежны, и лучшее, что мы можем сделать, — это просто их принять. Прошлой весной, когда Sam Altman предстал перед Конгрессом США и отвечал на неудобные вопросы о негативных последствиях этой технологии, он ушел от объяснения, почему его компания разрабатывает эту технологию. Он предложил создать новую федеральную службу, которая разработает несколько неясные «стандарты безопасности». Но не все капитулировали перед напором технополии. Гильдия писателей Америки в своем новом контракте с Альянсом телевидения и продюсеров добилась жестких ограничений на применение технологий ИИ. Гильдия писателей поставила условием, что даже если технически будет возможно передать написание части сценариев алгоритму, то это не будет означать, что все надо автоматизировать без обсуждения.

Недавний групповой иск от Гильдии писателей против OpenAI требует «возмещения» за незаконное использование материалов, защищенных копирайтом, для тренировки алгоритмов. Этот иск также отражает новое мышление – против правил технополии. Jonathan Franzen, новеллист и один из истцов по иску против OpenAI: «Генеративный ИИ – это новое большое поле для многолетней эксплуатации авторов контента со стороны Силиконовой Долины». Если есть такой потенциал для эксплуатации, это не означает, что его нужно использовать. Что если мы просто решим, что профессиональное создание контента будет делать человек?

Опасения о негативном влиянии соц.сетей на психическое здоровье подростков также привели к еще одной трещине в технополии. В прошлом стандартный ответ на беспокойства об использовании подростками соц.сетей был использовать еще более сложные технологии, чтобы фильтровать вредный контент, или минимизировать вред за счет удаления функциональностей, вызывающих зависимость. Проект двухстороннего законопроекта называется «Закон о защите детей в сети» (Kids Online Safety Act (KOSA)). Он был представлен два года назад сенаторами Richard Blumenthal и Marsha Blackburn и является примером такого типа мышления: он предлагает использовать сложные технологии, чтобы оградить детей от вредного контента. Законопроект подразумевает, что платформы стали неизбежной частью детского опыта, поэтому нам остается только придумать, как их контролировать. Во время обсуждения этого законопроекта Vivek Murthy, главный врач США, предложил вообще обсудить такую идею: просто запретить детям пользоваться платформами. «Если родители смогут объединиться и сказать, что они не хотят, чтобы их дети использовали соц.сети до достижения ими 16ти или 17ти лет, то это будет более эффективная стратегия защиты детей от вредного контента». Jean Twenge, профессор психологии Университета Сан Диего, поддержала предложение Vivek. В интервью изданию Washington Post Jean Twenge заявила: «Давайте введем минимальный возраст, с которого дети будут иметь право пользоваться соц.сетями, скажем- 13ть лет». Такое возрастное ограничение используется в Законе о защите приватности детей в сети от 1998 года. «Лучше даже не 13ть, а 16ть лет. Тогда это будет иметь значение».

Начинающее появляться сопротивление технополии не укладывается в стандартную форму полярных мнений: техно-оптимисты и техно-скептики. Речь идет о техно-селекционистах. Это новый вид мышления, когда есть осознание, что инновация может значительно улучшить нашу жизнь, но при этом не стоит считать, что эту инновацию нужно принять как данность, так как это неизбежно. Техно-селекционисты считают, что мы должны продолжить стимулировать возникновение новых технологий. Но мы также должны понимать, что эксперименты с новыми технологиями могут привести к злу, а не к благу. Техно-селекционисты воодушевлены перспективами ИИ, но они занимают жесткую позицию, определяя ситуации, когда эту технологию нельзя применять. Они могут восхищаться благами от использования социального интернета, но при этом не хотят отдавать безоговорочно своих детей на откуп в ТикТок.

Техно-селекционизм предлагает логику практичности. Влияние технологий на нашу жизнь может быть значительным и непредсказуемым. Стиль мышления технополии – это когда мы принимаем негативные эффекты новых технологий наряду с позитивными и надеемся, что со временем негативные последствия будут преодолены. Такой оптимизм может быть оправдан, но техно-селекционисты считают, что можно сделать лучше. Если мы жестко будем отвергать технологии, которые явно приносят вред, а не пользу, и не будем ждать, пока эти технологии принесут больше пользы, то мы сможем осознанно управлять социально-технологическим развитием. Такие попытки обдумывания технологий на личном уровне или уровне комьюнити и государства носят, разумеется, несколько несистемный характер. Иногда необходимо отказаться от позитивных эффектов технологии, чтобы избежать значительные негативные последствия. И попытки управления развитием могут в принципе пойти не туда. Например, движение против вакцины – вполне пример техно-селекционизма.

Но даже эти недостатки не оправдывают статус кво мягкой адаптации. Просто, потому что инструмент уже существует и он популярен, совсем не значит, что мы все должны дальше его использовать. Учитывая размах инноваций, подход автоматического принятия любой новой технологии может иметь экзистенциальные последствия. В мире, где такие инструменты как TikTok могут убедить тысячи пользователей, что, например Осама бин Ладен совсем не плохой парень, или когда алгоритм ИИ может внедрить в каждодневную жизнь миллионов что-то не совсем полезное, у нас нет другого выхода, как только заново забрать автономию технологий для формирования новой истории. Это потребует сдвига в мышлении. Десятилетия, проведенные в технополии, научили нас чувствовать вину за любое предложение отступить от внедрения прорывных решений. Но, в действительности, органическая эволюция совершается как за счет прибавления, так и за счет убывания.

В 2016 года, когда Cal Newport опубликовал свое эссе, многие люди не были готовы жестко контролировать технологии, которые мы впускаем в нашу жизнь. Видимо, это меняется. Neil Postman в 1992 году: «Если технология прижилась, то она начинает работать: она делает то, для чего ее создали. Наша задача – понять, для чего эта технология была создана, чтобы, впуская в нашу культуру это новшество, мы делали это с широко открытыми глазами».

Наши глаза наконец открылись. Теперь нам нужно действовать на основании того, что мы видим.

Ссылка на статью: https://www.newyorker.com/tech/annals-of-technology/its-time-to-dismantle-the-technopoly