Пять глупых вопросов к юбилею «Черного зеркала»

Через несколько месяцев будет ровно 10 лет с момента выхода первого эпизода «Черного зеркала». Как за эти годы изменилось наше восприятие новых технологий, были ли оправданы опасения и что из описанного в сериале вошло в реальную жизнь? Провел небольшое интервью и задал 5 глупых вопросов экспертам и стартаперам в сфере новых технологий.

Технологическая составляющая сериала не очень богатая. Все технологии можно свести к нескольким основным направлениям: социальные сети и блокировка личности (пока аккаунта) в них, ИИ, виртуальная реальность, отслеживание прошлого человека. Например, с помощью устройств внешнего наблюдения и/или по следам в сети. Все это уже есть, пусть в меньшей степени, чем в сериале. Нереализованными на настоящее время остаются оцифровка сознания человека и создание его копии, виртуальной или квазиреальной, и блокировка личности в реальности.

Для всех существующих технологий, конечно, развитие их внедрения определяется развитием правовых норм. Уже сейчас на законодательном и технологическом уровнях решаются вопросы о защите персональных данных, юридически определяется значимость показаний приборов фиксации информации (аудио- и видеозаписей как свидетельств для суда и следствия) и т.д.

Оцифровка личности пока находится под большим вопросом, поскольку недавно было подтверждено, что нейроны значительно (с точки зрения вычислительной мощности, по крайней мере, на 6 порядков) сложнее, чем принятая модель в виде триггеров, поэтому реально к созданию этой технологии еще не приступили, т.к. требуются значительные научные исследования.

«Черное зеркало» - это сериал не о технологиях, а об общественно-социальных последствиях того, как и в каких целях они применяются. Более того, многие вопросы, поднятые в сериале, давно рассматривались в фантастической литературе. Вопросы были те же, а технологии предполагались совсем другие. Станислав Лем еще в 1967 в «Сумме технологий» писал о проблемах виртуальной реальности, правда он предполагал, что она будет создаваться с помощью воздействия на человека химических веществ. Боялись и отслеживания прошлого человека, но только с помощью машины времени. Например, повесть Азимова «Мертвое прошлое».

Китайский социальный рейтинг это лишь один из представителей скоринговых моделей, с которыми сталкивается современный гражданин. Кредитный скоринг, приходя в банк за кредитом, банк вас оценивает или уже оценил по множеству параметров, решив заранее вернёте ли вы кредит так, как хочет этого банк или нет. Финтех проекты идут глубже и дают оценку не только тем, кто обратился за деньгами, а даже тем, кого смогли однозначно идентифицировать по активности в интернете.

Другой пример: в США некоторое время назад применялась система COMPAS, которая присваивала заключенному в исправительном учреждении вероятность его рецидива в будущем. Эта система имела недостатки, широкую огласку получило дело одного из заключенных, чьи характеристики были крайне положительными, но система продолжала выдавать ему отрицательный рейтинг, что не позволяло отпустить его досрочно.

Кроме таких моделей существуют те, чья этичность не вызывает вопросов. Например, модели, применяемые в медицине, например определяющие вероятность припадка у человека в ближайшие сутки.

Самые реалистичные и достаточно пугающие сценарии, которые я для себя отметил в этом сериале, это принудительная запись в чип всего что видит человек в эпизоде «История всей твоей жизни» (пока мы всё записываем в облако через свой телефон) и стирание границ между реальным и виртуальными мирами в эпизоде «Сан-Джуниперо» (технологии виртуальной и дополненной реальности становятся всё удобнее и технологичнее). Тут дело даже не в текущей реализации решений, а в том, что люди сами стремятся реализовать эти сценарии. Всё что их ограничивает, это развитие технологий, которые точно дорастут до уровня, представленного в сериале.

Технофобия была, есть и будет всегда. Просто объект страха со временем меняется. Наша натура такова, что чем больше мы чего-то боимся, тем больше это вызывает интерес. Поэтому фантастика, в частности, сериал «Черное зеркало» так популярен во всем мире. Но надо не забывать, что в основе фильма лежит сценарий, написанный обычными люди. Сюжеты не основаны на реальных событиях, поэтому мы не можем объективно судить о последствиях внедрения тех или иных технологий. Да, есть в них нечто, переплетающееся с действительностью. Например, эпизод, где героиня, чтобы попасть на свадьбу подруги, стремилась заработать высокий рейтинг в социальных сетях, напоминает попытки раскрутить свой личный бренд в инстаграм. Или другой пример — серия, где мультяшного медведя активно продвигали в политику (сегодня в этой сфере тоже все непредсказуемо). Но в целом даже сотая часть из того, что было снято, в ближайшем будущем внедрена не будет.

Как это ни странно, в России наоборот общество очень лояльно относится к внедрению инноваций и быстро к ним адаптируется.

По социологическим опросам, у нас 48% россиян считают себя технооптимистами. Иными словами верят в то, что технологии и инновации помогут решить проблемы людей. Этот показатель на 20% выше, чем в среднем в Европе.

Подтверждение этим цифрам я вижу на практике. Можно посмотреть на на уровень технологий в банковском секторе, который в России намного более развит, чем в Европе.

Можно найти и другие примеры. Мы занимаемся системами видеонаблюдения в общественных местах: во дворах многоквартирных домов, в подъездах и т.д. Нам бывает сложно пройти все бюрократические этапы и собрать подписи с жильцов, некоторые не готовы платить абонементную плату в 100 рублей в месяц за установку камер и круглосуточный доступ к трансляции и архиву. Аргументы же про то, что «мы не хотим слежки» встречаются крайне редко.

Причем подчеркну, что речь идет не о Москве и дорогих жилых комплексах, а о регионах. К примеру, в Оренбурге по инициативе жильцов было установлено 3 тысяч камер.

Причины в такой разнице менталитета могут быть разные. Так исторически сложилось, что россияне во многом привыкли рассчитывать на себя и меньше доверять окружающим. И поэтому готовы к непосредственному участию в обеспечении собственной безопасности, а не только делегированию этих полномочий органам внутренних дел.

Большинство передовых исследований не имеют массового или вообще не имеют применения в жизни, взять например открытие графена в 2004 году, спустя 15 лет в нашей повседневной жизни он не используется, хотя имеет огромный потенциал. В науке также не мало направлений, которые развиваются в отрыве от применения в жизни. Но есть такие направления, как работа с естественным языком, распознавание и детекция объектов на изображениях, улучшения качества поиска, те же скоринговые модели, рекомендательные системы, всё это очень тесно связано с бизнесом технологических корпораций.

Если коротко, то: бояться поздно. “Черное зеркало”, как и другая фантастика, просто представляет в гипертрофированном виде то, что уже есть в нашей жизни.

Полагаю, что основные опасения по новым технологиям связаны с тем, что люди не понимают, как работает та или иная технология. И это абсолютно нормальная реакция. Когда-то люди боялись радио и телевизоров, но быстро привыкли.

Другой случай, когда люди понимают действие технологии, но бояться, что ее будут использовать в некорректных целях. Т.е. встает вопрос контроля. Каждый случай можно рассматривать отдельно, но базово, мне кажется, нужно исходить из логики, что чем более открыта система, чем больше людей имеют возможность ее контролировать, тем более она безопасна.

Эксклюзивный доступ к технологии и информации дает стимул злоумышленнику использовать ее в своих корыстных целях, но если все это доступно другим людям, то он лишается этого преимущества и система становится более безопасной.

#5глупыхвопросов