Станет ли видеоконтроль «Большим братом»?

Евгений Карпов, Product Owner (у нас это то же самое, что Product Manager) в горнодобывающем дивизионе компании «Цифра», написал статью о том, насколько мы приблизились к сюжету многих антиутопий.

Когда-то будущее представлялось человечеству светлым и оптимистичным, но начиная с 19 века, в литературе и философии начинают преобладать противоположные тенденции – далекое, а иногда и не очень, завтра окрасилось в мрачные тона антиутопий. Один из самых распространенных страхов новейшего времени – тоталитарный контроль, когда государство полностью подавляет человека. А возможным это в произведениях научной фантастики или кинофильмах становится благодаря, в том числе, передовым технологиям видеораспознавания, которые позволяют отслеживать буквально каждый шаг человека, каждое его слово и даже эмоции. Насколько мы приблизились к не самому радостному, мягко говоря, будущему – мне кажется, я могу ответить на этот вопрос.

Я занимаюсь продуктами компьютерного зрения в компании «Цифра». В числе прочего мы делаем системы видеослежения на основе искусственного интеллекта. С помощью наших программных продуктов собственной разработки партнеры могут контролировать производственные процессы и следить за соблюдением правил техники безопасности со стороны персонала. В общем, одна из задач наших программ – чтобы люди на заводах действовали в рамках их должностных инструкций. До тотального контроля человека – один шаг…

Разными системами компании «Цифра» (не только системами видеослежения) оборудовано больше 200 предприятий по всему миру. Мы делаем для предприятий компьютерные системы, аналоги которых скоро могут появиться на улицах наших городов и поменять нашу жизнь. В общем, я не понаслышке знаком с тем, как искусственный интеллект может следить за людьми.

Я также работал с государственными заказчиками и примерно знаю, для чего государство может использовать видеоконтроль. На мой взгляд, самые вероятные варианты — удержание власти, предотвращение правонарушений и поиск преступников (что не одно и то же). Давайте пройдемся по каждой из этих инициатив.

Как показывает практика последнего времени — смена власти в авторитарных системах обычно происходит через революции. Видимо, это происходит только там, где начинаются беспорядки и протестующие захватывают органы власти. Как показывает пример Беларуси — если люди просто ходят по проспектам, это ничего не меняет.

Кажется, что замечательный способ удержать власть — с помощью системы тотального контроля отслеживать самых буйных, тех, кто действительно нарушает закон и подстрекает других, и предъявлять им обвинения по результатам митингов. Тогда все будут просто выражать свое несогласие и не пойдут штурмовать органы власти. Наверное, это отличная задача для компьютерного зрения.

На практике не совсем так. Чтобы контролировать митинги автоматически, нужна дорогая система видеоанализа. Но на практике 1000 полицейских, смотрящих записи с камер видеонаблюдения, могут отследить нарушения на 100 000 митинге не хуже чем самая крутая система с искусственным интеллектом.

А так как многочисленные митинги бывают очень редко, то городить “суперсистему” ради такого редкого мероприятия, кажется, не нужно. С этим отлично можно справиться силами полиции. Отдельная идея для государства — использовать для обработки видео сервисы типа Яндекс.Толока или Amazon Mechanical Turk.

Камеры контроля делают хорошую работу, контролируя соблюдение правил дорожного движения на улицах наших городов. Благодаря им за последние 10 лет смертность на дорогах упала на 40%, что очень здорово. Можно ли контролировать и другие нарушения закона?

Конечно, можно, но есть одна проблема. Кроме правил дорожного движения и положений Административного кодекса, особенно и контролировать нечего. То есть можно будет предотвратить мелкие акты вандализма, к примеру, справление нужды на газоне, переворачивание урн и рисование граффити на стенах. Только и всего.

А как насчет уголовных преступлений? Теоретически можно. Практически уголовное преступление обычно не требует автоматической фиксации, у него есть потерпевший, который напишет заявление в полицию и уже по этому факту преступление и фиксируется. Поэтому система компьютерного зрения ни одного нового преступления не зафиксирует.

Вот это — отличная задача. Если твое лицо известно, есть фотография преступника или пропавшего человека, то просто живя в городе, ты несколько раз за день попадаешь на камеры видеонаблюдения, по которым можно распознать твое лицо.

Еще недавно, до пандемии, казалось, что скоро скрываться от полиции будет совершенно бессмысленно. Спрятаться можно будет разве что в деревне или за границей. К примеру, в 2010 году в федеральном розыске было 347 000 человек. Если через камеры мы будем находить хотя бы половину этих преступников или пропавших без вести людей, будет очень хорошо.

Также противники видеоконтроля пугают нас тем, что собранные данные государство (или отдельные его представители, нечистые на руку) будут продавать различным компаниям для еще более назойливого маркетинга. На самом деле, всё, что мы ищем в интернете, на какие сайты заходим, с кем общаемся, что пишем или лайкаем, находится под постоянным контролем Apple, Google, Facebook и т.д. Именно поэтому они так качественно подбирают для нас контекстную рекламу. Купить их услуги может любой бизнесмен – но возможно, кому-то было бы интересно использовать и информацию о нашей жизни с камер видеонаблюдения?

Но что именно? Может быть, наше местоположение? Но оно и так уже известно благодаря геолокации в телефоне, мы же его везде его с собой носим. С кем и когда общаемся при помощи телефона — тоже не секрет. Так что маловероятно, что видеокамеры дадут что-то супер ценное.

Как показывает практика работы нашей компании — можно сделать очень многое, но далеко не все внедряется. Теоретически мы могли бы следить за тем, на что тратят сотрудники свое рабочее время, как относятся к начальству и подчиненным, могли бы определять «уровень счастья» персонала и строить схемы отношений внутри коллектива. Система искусственного интеллекта на основе видеонаблюдения может даже достаточно точно определять, кто является мафией, а кто — комиссаром в игре “Мафия”.

Суровая реальность состоит в том, что большинство наших изысков не нужны, и платить наши клиенты готовы только за то, что окупается в обозримом будущем. Чаще всего руководству достаточно соблюдения техники безопасности и контроля усталости сотрудников.

После начала пандемии COVID-19 даже в помешанных на демократии странах Европы стали активно внедрять системы видеонаблюдения, использовать их данные для контроля соблюдения карантинных ограничений. Тут же раздались и голоса противников о том, что если государству только дать такую возможность, то все, дальше будет тоталитаризм, джин «Большого брата» выпущен из бутылки.

Теоретически использование камер для обеспечения антиэпидемиологических чрезвычайных мер возможно, но речь скорее идет о сборе статистических данных о соблюдении карантина. Как система контроля это работает только с автомобильными номерами – потому что большинство наших сограждан за прошедшие месяцы все же приучились носить санитарные маски, которые очень сильно снижают возможности по распознаванию лиц. Фактически, маска, которая быстро стала модным атрибутом, работает как инструмент борьбы с видеоконтролем. Особенно если дополнить ее солнцезащитными очками, которые тоже советуют носить в целях профилактики вируса.

Конечно, никто бы не хотел жить в тоталитарном государстве, под неусыпным глазом «Большого брата». Но на мой взгляд, системы видеоконтроля этому способствовать вряд ли будут. Для государства гигабайты видеозаписей — информация излишняя. Если нужно собрать компрометирующие материалы о каком-то конкретном человеке, то можно заглянуть в его почту, историю переписки в мессенджере или прослушать запись разговоров. Договориться о предоставлении этой информации практически с любой компанией, будь то Apple или Google, которая вряд ли захочет рисковать своим бизнесом в данной стране, а тем более с китайскими производителями телефонов, должно быть гораздо легче, чем создавать систему тотального видеоконтроля.

Мы уже оказались в ситуации, когда искусственный интеллект знает о нас часто больше, чем мы сами о себе. Но, кажется, в этом нет ничего страшного. И наши секреты и личная жизнь (которые мы так пытаемся сохранить в тайне) никому не интересны.

После того, как рухнула Берлинская стена, и государство ГДР перестало существовать, были обнаружены огромные архивы штази, расформированной спецслужбы социалистической Германии. Говорят, для хранения необработанной и никому не нужной на самом деле информации — миллионов доносов, личных дел, фотографий и видеозаписей, — использовались помещения, сравнимые по площади с самолетными ангарами. С тех пор прошло уже 30 лет, но даже кропотливым и дотошным немцам до сих пор не удалось обработать все эти массивы данных.