Протесты в Google и Microsoft в 2019 году: от каких разработок призывали отказаться сотрудники и чего добились

Руководители Microsoft мягко настояли на своём и продолжили работу над проектами для военных, а Google пришлось свернуть «цензурный» поисковик для Китая.

Возмущения сотрудников связаны с военными контрактами компании: разработкой специальной версии гарнитуры дополненной реальности HoloLens и десятилетним контрактом с Пентагоном на облачные услуги.

9 октября 2018 года корпоративный вице-президент Microsoft Azure Джулия Уайт опубликовала в блоге компании официальное письмо о том, как облачные сервисы и технологии искусственного интеллекта помогут в работе правительственных служб.

Она указала: Microsoft готова бороться с Amazon, Oracle, IBM и другими корпорациями за контракт стоимостью $10 млрд на разработку облачного сервиса JEDI с применением технологий ИИ для Пентагона.

26 октября 2019 года Microsoft выиграла контракт, по которому должна разработать единое облако JEDI (Joint Enterprise Defense Infrastructure Cloud) для военных подразделений США. JEDI призвана заменить плохо интегрированные и устаревшие компьютерные сети и облака американских военных на единую облачную систему, охватывающую все направления — от армии до авиации и флота.

Amazon могла выиграть контракт, так как облачный сервис компании доминирует на рынке облачных услуг, полностью удовлетворяет требованиям контракта, а Amazon ранее сотрудничала с ЦРУ, считает Forbes.

Контракт на JEDI Microsoft открывает новые варианты сотрудничества с властями: компания может поработать над облачными сервисами для других правительственных подразделений.

Также Microsoft в конце августа 2019 года стала одним из победителей другого контракта для Министерства обороны — Defense Enterprise Office Solutions (DEOS) общей стоимостью $7,6 млрд. Компания станет основным поставщиком офисных продуктов через сервис Office 365, размещённый в облаке Azure.

В ноябре 2018 года Microsoft выиграла контракт для Армии США стоимостью $479 млн. Компания займётся разработкой прототипа боевой системы IVAS на базе гарнитуры HoloLens.

По контракту военные могут закупить более 100 тысяч гарнитур, призванных «повысить летальность за счёт улучшенных возможностей по выявлению, определению и участию в боевых действиях», если разработка и тестирование пройдут успешно.

Представитель Microsoft после победы заявил, что технологии дополненной реальности помогут армии получить больше данных для быстрого принятия решений, а контракт укрепит отношения Microsoft с Министерством обороны в новых областях.

Военная версия HoloLens будет отличаться от потребительской — по контракту устройство должно поддерживать активацию ночного видения, тепловизор, контроль жизненно важных показателей бойца: дыхания и потенциального сотрясения мозга, а также защищать от громких звуков.

Microsoft должна выпустить 2500 гарнитур в течение двух лет и продемонстрировать возможность полномасштабного производства тысяч новых устройств.

В апреле 2019 года журналисты CNBC протестировали прототип IVAS вместе с солдатами. Поездку организовало подразделение Futures, которое занимается сотрудничеством армии с технологическими стартапами и корпорациями.

Апрельская версия IVAS напомнила журналистам интерфейс Call of Duty и других шутеров: гарнитура показывает мини-карту местности с местоположением бойцов группы, врагов, компас с метками, активирует тепловизор и очки ночного видения в случае сильного задымления, а также цифровой прицел.

Военные планируют использовать IVAS и за пределами боевых действий: для сбора данных о солдатах на тренировках на «виртуальных врагах». Команда учебного центра анализирует, что видит солдат, а после учений бойцы могут посмотреть в IVAS отчёт о своих действиях.

В ноябре 2019 года журналисты Business Insider рассказали о второй версии IVAS. С её помощью армия провела «виртуальную спецоперацию», во время которой военные:

По словам журналистов Business Insider, IVAS 2 питается от носимой батареи, заряда хватает на шесть-восемь часов. На лето 2020 года запланирован третий прототип — более эргономичный, прочный и защищенный от непогоды.

23 февраля 2019 года около 250 сотрудников Microsoft опубликовали открытое письмо в адрес гендиректора компании Сатьи Наделлы и юрисконсульта Microsoft Брэда Смита. Сотрудники заявили: они «встревожены, что Microsoft помогает военным повысить летальность с помощью инструментов, разработанных инженерами компании».

Работники призвали отменить контракт по IVAS, создать ясную политику работы над подобными проектами и независимый совет по внешней этике. По их словам, они «не подписывались на разработку оружия» и потребовали право голоса при использовании результатов их труда.

Сотрудники считали, что IVAS в первую очередь помогает убивать и превращать войну в имитацию видеоигры, отдаляя солдат от реальности.

Разработчики Hololens полагали, что технология будет использоваться для помощи архитекторам и инженерам, улучшения видеоигр и общения с другими людьми.

Также авторы письма посчитали, что предложение Microsoft перейти на другую работу в компании, если сотрудник считает проект неэтичным, игнорирует проблему, а не решает её.

25 февраля Сатья Наделла ответил на письмо протестующих в разговоре с CNN и выступил в защиту контракта. По его словам, прислушиваться к мнению сотрудников очень важно, но компания «приняла принципиальное решение не утаивать технологии от институтов, которые выбрали в демократических странах, чтобы защитить свободы, которыми пользуемся».

Он пообещал продолжить диалог с сотрудниками и быть предельно открытым.

17 октября 2019 года после письма вице-президента Microsoft Azure Джулии Уайт анонимные сотрудники отправили коллективное письмо руководству корпорации с призывом не участвовать в тендере JEDI по этическим соображениям.

По мнению протестующих, из-за секретности контракта непонятно, над чем придётся работать инженерам, но это поможет в военных действиях. Также в JEDI используются технологии искусственного интеллекта, а значит, контракт попадает под действие документа The Future Computed, в которой Microsoft описала этические принципы разработки ИИ.

Сотрудники считают, что JEDI должен быть проанализирован комитетом по этике ИИ, созданным в Microsoft. Они призвали отказаться от JEDI так, как это сделала Google, поскольку технологии для JEDI могут не соответствовать принципам Microsoft по развитию ИИ, а компания «предаст эти принципы в погоне за краткосрочной прибылью».

Также сотрудники попросили коллег из Amazon и других компаний принять их позицию и спрашивать у руководства, где будет применяться разработка и соответствует ли это их принципам. Когда они устроились на работу в Microsoft, они не ожидали, что «целью их работы будут убийства и повышение летальности оружия».

26 октября 2018 года вице-президент Microsoft Брэд Смит подробно рассказал о принципах сотрудничества Microsoft с военными. По его словам, работа в этом направлении основана на трёх принципах:

Смит заявил, что Microsoft работает с Министерством обороны США более 40 лет, так как военные рискуют своими жизнями для защиты страны и помощи людям во всем мире, и компания хочет «прикрыть их спины» и предоставить доступ к лучшим технологиям.

Также Microsoft намеренно сотрудничает с военными, чтобы иметь возможность решать этические вопросы по использованию технологий, выступать в качестве экспертов со стороны ИТ-компаний и участвовать в публичных диалогах с правительством.

Также участие в тендере JEDI прокомментировал Сатья Наделла. Он повторил слова о поддержке технологиями правительственных подразделений США, как и в случае с Hololens, и напомнил, что это — принципиальная позиция компании.

Наделла признал: не все сотрудники Microsoft могут согласиться с подписанными контрактами, а «руководящей команде нужно чётко понимать принципы, принятые решения и быть откровенными в их отношении».

Протестующие сотрудники Microsoft не предпринимали дальнейших активных действий по военным контрактам. С сентября 2019 года активисты Microsoft занимаются вопросами окружающей среды и протестом против контракта дочерней компании GitHub с иммиграционными и таможенными органами США.

С 2010 года Google не работает на территории Китая — компания отказалась цензурировать результаты поиска и закрыла бизнес в стране. Но к 2018 году в Китае сформировался новый мобильный рынок с аудиторией в 788 млн пользователей, и американские фирмы стали активнее интересоваться развитием бизнеса в стране.

В августе 2018 года издание The Intercept рассказало об использовании Google купленного в 2008 году сайта 265.com для отслеживания поисковых запросов жителей Китая. Сайт не обрабатывает поисковые запросы, а перенаправляет их в Baidu — основному конкуренту Google в Китае.

Данные о запросах 265.com Google использовала для создания инструмента BeaconTower, проверяющего, какие результаты поиска в Google могут быть заблокированы китайской системой цензуры.

Инструмент стал основой для создания Dragonfly — мобильного сервиса, который автоматически удаляет из выдачи сайты, заблокированные китайским файрволом.

По задумке разработчиков Google цензура должна была работать везде: в изображениях, переводчике, проверке орфографии.

Dragonfly умел удалять неприемлемый контент о политзаключенных, протестах и демократии, а внутри движка был чёрный список с ключевыми темами и словами.

Данные Dragonfly подстраивал под нужды китайского правительства: погодный сервис занижал данные о выбросах веществ в атмосферу, чтобы скрыть загрязнение окружающей среды.

Разработка Dragonfly была секретной и анонимной — над ней трудились около 100 человек, которые изначально скрывали проект из-за его несоответствия моральным и этическим нормам Google.

15 октября 2018 года гендиректор Google Сундар Пичаи официально подтвердил запуск поисковой системы в Китае, объяснив это важностью китайского рынка и «многообещающими» внутренними тестами.

Первые протесты сотрудников Google начались 16 августа 2018 года после публикации The Intercept. По их мнению, компания зацензуренной версией сервиса нарушила собственные правила и принципы.

Они потребовали от руководства раскрыть информацию о Dragonfly, чтобы оценить этические последствия своей работы. Под письмом подписались около 1000 сотрудников.

28 августа 2018 года к сотрудникам Google присоединилась коалиция из 14 ведущих правозащитных организаций. Они написали открытое письмо Сундару Пичаи, призвав его к открытому и честному диалогу и соблюдению прав человека.

До октября 2018 года Google не признавала, что работает над запуском поискового сервиса в Китае. Глава поиска Google Бен Гомез сказал BBC, что «компания только исследует возможности, но так как планов запускать нет, то и говорить не о чем».

По информации The Intercept, 18 июля Гомез общался с сотрудниками, задействованными в разработке Dragonfly, и обозначил, что запуск поисковой системы может произойти в течение шести-девяти месяцев.

4 октября 2018 года к протесту присоединился вице-президент США Майк Пенс. Он призывал Google немедленно прекратить работу над проектом, чтобы «не усиливать цензуру Коммунистической партии и не ставить под угрозу частную жизнь китайских клиентов».

В ноябре открытое письмо руководству написали более 600 сотрудников Google, подчеркнув, что большинство из них устроилось на работу, зная ценности компании и её прошлую позицию относительно цензуры.

Также из Google начали увольняться в знак протеста: бывший научный сотрудник компании Джек Полсон призвал руководство открыто объяснить свою позицию, а не уводить вопросы в сторону. Для поддержки уволившихся сотрудников протестующие собрали $200 тысяч в «фонд забастовки».

В декабре 2018 года гендиректора Google Сундара Пичаи пригласили для дачи показаний в Конгресс.

17 июля 2019 года Google официально закрыла проект Dragonfly. По информации Intercept, компания сделала это по нескольким причинам: резкой отрицательной реакции сотрудников и утечке данных о проекте — из-за неё к работе над проектом подключилась команда конфиденциальности, которая защищает права пользователей.

Участники этой команды раскритиковали проект и добились отмены работы с данными сервиса 265.com, после которого продолжать работу над Dragonfly было трудно.

#microsoft #google #итоги2019