Почему ИИ не заменит людей на тяжёлой работе, а будет руководить ими — и сделает труд ещё более изнурительным

Как системы автоматизации улучшают эффективность работников, но забывают про их потребности во сне, отдыхе и туалете, — на примере складского рабочего, программиста и оператора колл-центра.

Конспект материала The Verge.

Главы технологических компаний и политики предупреждают о надвигающемся кризисе автоматизации, когда работников постепенно заменят «умные» машины. Но на деле кризис автоматизации уже наступил, роботы управляют людьми на различных предприятиях и подменяют менеджеров среднего звена, пишет The Verge.

Алгоритмы присматривают за домработницами: указывают, в какой комнате убирать, замеряют скорость работы. Они управляют разработчиками ПО, отслеживая клики и прокрутку, и сокращают зарплату, если работа идёт слишком медленно. Роботы прослушивают разговоры в колл-центрах, подсказывают, что и как сказать клиентам, поддерживают максимальную загрузку.

Автоматизированные системы обнаруживают неэффективность там, где не способен живой человек. Убирают мгновения простоя между звонками, сокращают время отдыха у кофемашины после завершения задачи или прокладывают новый маршрут, который при благоприятных условиях добавит водителю ещё несколько посылок в день.

Но что алгоритм расценивает как неэффективность, для человека — возможность отдохнуть и побыть наедине. И по мере того как оптимизировались эти небольшие перерывы, работа людей становилась всё интенсивнее, напряжённее и опаснее.

Автор The Verge Джош Жиеза опросил более 20 работников в шести странах. Многие из них боятся не того, что их заменят роботы, а того, что машины уже ими руководят.

Один из примеров опасного автоматизированного управления — Amazon. Работниками на складах компании управляет программа: задаёт начало работы, её скорость, даже увольняет людей. У каждого работника есть норма — определённое количество предметов, которые он должен обработать за час. Если не успевает, попадает под автоматическое увольнение.

The Verge рассказывает историю Джейка со склада Amazon во Флориде (имя изменено из-за опасений преследования со стороны Amazon). Управление на складе полностью автоматизировано, а у команды из 300 человек всего два-три начальника. По словам Джейка, один из них ходит по складу с ноутбуком и подгоняет рабочих, когда они замедляются.

Amazon заявляет: система подсказывает менеджерам, что следует обсудить с сотрудниками результаты их работы, но все окончательные решения по кадровым вопросам, включая увольнения, принимают руководители, а не машины.

Задача Джейка состояла в том, чтобы снять предмет с конвейера, нажать кнопку, поместить его в то место, куда говорит система, снова нажать кнопку и повторить цикл. Он сравнил процесс с постоянными выпадами каждые десять секунд без перерыва.

Его мотивировали работать ещё быстрее с помощью гигантской таблицы лидеров с мультяшным бегуном. На ней в реальном времени отражались показатели десяти самых быстрых работников.

Менеджер следил за кладовщиками по интеркому и подбадривал их, как спортивный комментатор: «На третьем месте в первом тайме у нас Боб со скоростью 697 единиц в час!» Лучшие исполнители получали внутреннюю валюту Amazon, которую могли обменять на устройства Amazon Echo и футболки компании. Слабых увольняли.

Через несколько месяцев Джейк почувствовал жжение в спине. Ему посоветовали сильнее сгибать колени, поднимая товары. Но так как это снизило скорость, другой менеджер подгонял его. Джейк отвечал, что у него может случиться сердечный приступ.

В конце концов спина не выдержала: у Джейка диагностировали два повреждённых межпозвоночных диска, пришлось уволиться. По его словам, ответственность за травму лежит на рейтинге скорости.

Другие сотрудники Amazon, с которыми разговаривал журналист, тоже заявляли, что темп работы, навязываемый алгоритмом, а не физическая сложность, делал её настолько изнурительной. Бездействие постоянно оптимизируется, а вместе с ним и любая возможность восстановить силы.

Один из рабочих рассказал, что недавно Amazon оборудовала склады устройством, которое подсвечивает нужный предмет. Это позволяет системе ещё больше увеличить скорость и устранить «микромоменты отдыха» кладовщиков во время визуального поиска предмета на полке.

Люди не выдерживают такой интенсивной работы без вреда для себя: в 2019 году ProPublica, BuzzFeed и другие издания публиковали расследования о водителях службы доставки Amazon. Они рассказали журналистам, что должны следовать составленному алгоритмом маршруту без возможности остановиться, отдохнуть, поесть или сходить в туалет.

В ноябре 2019 года издание Reveal проанализировало документы 23 складов Amazon и обнаружило, что около 10% работников получили серьёзные травмы в 2018 году. Этот показатель более чем в два раза превышает средний по США на аналогичной работе.

Пресс-секретарь Amazon в разговоре с The Verge заявил, что компания «серьёзно относится к безопасности работников и призывает немедленно сообщать о травмах, а на местах есть медицинский персонал».

Тем не менее Amazon пришлось установить на складах торговые автоматы с обезболивающим — из-за боли в спине, коленях и других симптомах постоянного напряжения у сотрудников.

Также люди страдают от стресса и переутомления, что становится эпидемией, заявляют работники Amazon. По их словам, работа настолько усилена алгоритмами, что требовала переосмысления трудовых норм.

Концепция 40-часовой рабочей недели — восемь часов работы, восемь часов сна и восемь часов на личные дела. Вместо этого сотрудники после работы просто спали по 16 часов, чтобы отдохнуть. Многие не возвращались домой, а переутомлённые спали прямо в машинах на парковке склада, рассказал Джейк.

При этом выгорание сотрудников не влияет на процессы. Поскольку алгоритмы детально определяют задачи рабочих, людей легко заменить. По оценке Джейка, он был нанят вместе с 75 людьми, из которых он сдался последним: «Ты лишь номер, они могут заменить тебя кем угодно с улицы за пару секунд. Им не нужны навыки, им ничего не нужно, кроме очень быстрой работы».

На складах Amazon есть роботы, которые якобы «крадут рабочие места», но они не волнуют большинство рабочих. В 2014 году Amazon начала внедрять роботов-переносчиков, которые автоматизировали перемещение товаров на складе.

Но они были эффективны настолько, что людей для выполнения других задач потребовалось ещё больше — чтобы не отставать. Amazon построила больше складов, теперь их штат в три раза больше, чем до появления роботов.

Машины изменили характер работы: вместо перемещения по складу рабочие теперь стоят в ячейках и убирают с полок предметы, принесённые роботами. Сотрудники считают, что это одна из самых активных и изнурительных ролей на складе. По информации Reveal, травмы чаще всего возникают на складах с роботами, потому что машины задают темп, который людям не выдержать.

Из-за условий труда на предприятиях Amazon в 2019 году прошли протесты: большинство были вызваны автоматизацией производства, в котором не учитывались человеческие потребности. В Калифорнии сотрудницу уволили за превышение на час квоты неоплачиваемого отпуска, взятого из-за смерти родственника. Её вернули в штат только после петиции коллег.

В Миннесоте рабочие уволились, протестуя против темпа, который не оставлял времени на поход в туалет или религиозные обряды. Чтобы удовлетворить машину, рабочие чувствовали, будто их самих вынуждали стать машинами, и скандировали: «Мы не роботы!»

«Мы находимся в разгаре нового ускорения производства», — считает The Verge и напоминает о прошлых промышленных революциях, ускоривших производство: стандартизации ролей рабочих Фредериком Тейлором и создании конвейера Генри Фордом.

За новым витком стоит множество факторов, один из основных — цифровая экономика и способы организации работы, которые она даёт. В ритейле работники не стоят в ожидании покупателей, так как с появлением электронной торговли их роли разделились. Теперь они также работают на складах и в колл-центрах — и находятся под наблюдением компьютерных систем, которые поддерживают максимальную эффективность работы.

Автоматизация управления начинается с расписания: с конца 90-х годов магазины используют алгоритмы для прогнозирования посещаемости и планирования рабочих смен в соответствии с активностью покупателей.

Алгоритмы совершенствовались и позволяли не просто увеличить число сотрудников в часы-пик, но и принимать во внимание факторы вроде погоды или ближайшего спортивного события. Сейчас системы прогнозируют необходимость в персонале с шагом в 15 минут.

ПО настолько точное, что его можно использовать для создания «гуманных графиков», считает профессор Чикагского университета Сьюзан Ламберт, которая изучает проблемы планирования. Но вместо этого алгоритмы используют для оптимизации количества сотрудников: сокращают до минимума, который удовлетворит спрос, если не больше.

Такой подход не обязательно самый прибыльный, замечает Ламберт, ссылаясь на исследование для Gap. Но компаниям и инвесторам проще оценить сокращение трат на рабочую силу, чем потери от пустых магазинов. И сотрудники вынуждены менять виды деятельности, чтобы управлять постоянно недоукомплектованным магазином.

Алгоритмы планирования встречаются везде: на сортировочных пунктах Amazon рабочие получают график работы через приложение, которое может продлить рабочее время всего за полчаса до того, как понадобится сотрудник.

Появление дешёвых датчиков, сетей и машинного обучения позволило системам управления перенять более тонкую надзорную роль — не только на организованных складах, но и везде, где люди носят с собой устройства.

Камеры, сканеры и GPS рассчитывают каждый шаг работника без большого штата менеджеров. Первой технологией воспользовалась Uber, затем её переняли поставщики, рестораны и другие отрасли.

Компании, которые агрессивно автоматизируют управление, идут схожим путём: нанимают большой пул плохо оплачиваемых, легко заменяемых, чаще всего работающих неполный день или по контракту людей и небольшую группу дорогих специалистов-разработчиков, которые управляют ими, считает The Verge.

Это не похоже на революцию ИИ, о которой предупреждают Илон Маск, Марк Цукерберг и другие предприниматели Кремниевой долины. Они по-прежнему заявляют, что ИИ изменит общество и украдёт работу у людей.

По мнению издания, высказывания глав ИТ-корпораций льстят технологической индустрии: они не просто заявляют, что создали нечто настолько мощное, что сделает человеческий труд устаревшим, но ещё и предупреждают об этом заранее.

Но эта точка зрения не учитывает условия работы тех, кем уже сейчас управляют машины. «Зачем думать о складских работниках, таксистах, модераторах или операторах колл-центров, если все говорят, что через несколько лет их заменят роботы», — задаётся вопросом The Verge.

Возможно, когда-нибудь машина и сможет заменить дальнобойщика, но до сих пор влияние автоматизации было менее катастрофическим.

По данным Центра исследований труда и образования Калифорнийского университета в Беркли, многие сотрудники не окажутся без работы: водители-дальнобойщики будут помогать автономным грузовикам передвигаться по сложным городским улицам или удалённо устранять неисправности, сидя в подобиях колл-центра, а их производительность будет отслеживаться алгоритмом.

Но в целом они всё равно окажутся управляемыми машинами — силой, которая в значительной степени игнорируется из-за «фетишизма ИИ», отмечает издание.

При этом развитие ИИ всё равно будет волновать работников. Раньше, чтобы машины могли справится с задачами самостоятельно, их разбивали на подзадачи. Сейчас машинное обучение анализирует гораздо менее структурированные данные — от набора текста до разговоров между людьми — и проникает в новые отрасли.

Для оценки качества работы колл-центров используется специальное ПО, которое в дополнение к обычным метрикам (количество и продолжительность звонков) анализирует эмоции с помощью ИИ. Но делает это неуклюже.

В The Verge пообщались с Анжелой, сотрудником колл-центра страховой компании, которая внедрила программу Voci для оценки качества разговоров. По словам Анжелы, её показатели были превосходны, но программа постоянно выявляла негативные эмоции при разговорах. Хотя прежде менеджеры-люди хвалили её манеру общения с клиентами.

Никто не смог точно определить, почему Анжелу штрафовали. Она считает, что ИИ интерпретировал как отрицательные черты её быструю и громкую манеру говорить, выражения озабоченности проблемой и паузы.

Система предлагала Анжеле собственные фразы с фальшивым сопереживанием; это ограничивало общение без боязни штрафа. По словам Анжелы, для клиента такой опыт тоже не лучший: если бы он хотел поговорить с компьютером, он бы выбрал интерактивные голосовые ответы IVR.

Представитель Voci в разговоре с The Verge рассказал, что программа обучалась на тысячах часах аудио, которые краудсорс-сотрудники помечали как удачные примеры положительной или отрицательной эмоции. Он признал, что оценки субъективны, но в совокупности должны работать правильно. Voci лишь предоставляет инструменты для анализа, а колл-центры решают, как использовать полученные данные, заявили в компании.

Проблемы с Voci заставляют Анжелу бояться следующего этапа автоматизации: её колл-центр внедряет ПО от Clarabridge. Оно автоматизирует ещё больше оценок, например произнесение правильных фраз. Также компания планирует использовать Cogito для обучения сотрудников в реальном времени, предлагая им говорить медленнее, энергичнее или выражать сочувствие.

Google, Amazon и множество небольших компаний объявили о запуске интеллектуальных систем, которые прослушивают звонки, тренируют сотрудников или автоматически оценивают их работу. Компания CallMiner рекламирует ИИ, до доли процента измеряющего профессионализм, вежливость и эмпатию работников.

Сотрудники считают, что эти системы чаще слишком неуклюжи для анализа взаимодействия людей. Чтобы соответствовать показателям эмпатии достаточно порой говорить «извините».

Система Cogito заставила работницу выражать сочувствие, неверно определив смех абонента как эмоциональный стресс. На самом деле он смеялся от радости рождения ребёнка, но так как работница занималась заполнением бумаг и следовала указаниям ИИ, она часто говорила «извините» и вызвала недоумение клиента.

Cogito заявила, что её система «очень точна и практически не даёт ложных срабатываний» и призвана не заменить работников, а дополнить их. Поэтому сотрудники колл-центра могут пользоваться своими оценками, чтобы приспособиться к ситуациям.

По мере распространения систем оценки эмоций будет важно оценивать их на точность и непредвзятость. Но само их появление, пишет The Verge, поднимает вопрос: почему так много компаний начали уделять внимание эмпатии.

И ответ связан с тем, как сама автоматизация сделала работу в колл-центрах более сложной, интенсивной и бесчувственной.

В прошлом работники обрабатывали сложные и эмоциональные вызовы, смешивая их с простыми звонками «я забыл пароль», но теперь с ними справляются боты. Также автоматизированные системы собирают информацию о клиентах и помогают заполнять формы, чтобы облегчить работу. Но любое время простоя отслеживается и заполняется новыми звонками.

У работницы, использующей Cogito, была только минута на заполнение страховых форм между звонками и полчаса в месяц на перерывы. Она по десять часов в день отвечала людям с неизлечимыми болезнями, умирающими родственниками, выкидышами. Каждую такую беседу она должна была обработать менее чем за 12 минут.

Работники колл-центров рассказали The Verge об онемении, хронической тревоге и бессоннице, вызванной ежедневными тяжёлыми разговорами. В это время, по словам одного из операторов, «компьютер стоит за спиной и решает, сохранить ли вам работу».

Такая форма выгорания стала настолько распространённой, что в отрасли у неё есть название — усталость от эмпатии. Cogito объясняет создание своего ИИ, сравнивая работников колл-центра с медсестрами, чья чувствительность к пациентам снижается во время смены. После 25 звонков качество работы операторов снижается, а решение, уверены в Cogito, — в использовании ИИ для «масштабирования эмпатии».

По мнению The Verge, общество считает позитивным будущее, в котором эмпатия и другие межличностные навыки останутся делом людей, а не роботов. Но внедрение автоматизированных систем по увеличению эмпатии в колл-центры демонстрирует, как легко это будущее может превратиться в мрачное и дегуманизированное.

Офисные сотрудники, программисты, к примеру, — ещё одна отрасль, где роботы начинают руководить людьми. Разработчик Мак Рони заинтересовался работой в компании Crossover Technologies из-за зарплаты в $15 в час и возможности гибкой работы из дома, но столкнулся с системами отслеживания производительности.

В первый рабочий день Рони попросили скачать программу WorkSmart, которую гендиректор Crossover Энди Триба описывает как «Fitbit для работы». По его словам, современный сотрудник постоянно взаимодействует с облачными приложениями, что даёт огромный объём информации. Её можно использовать для повышения производительности.

Ссылаясь на книгу Кэла Ньюпорта «Глубокая работа» об опасности многозадачности, Триба заявляет, что WorkSmart позволит сотрудникам выйти на «новый уровень интенсивного внимания».

Он сравнивает работу WorkSmart с дефрагментацией жёсткого диска: процессом, где хаотично рассеянная по времени работа сортируется в сплошные блоки «непрерывной производительности».

WorkSmart действительно превратил рабочий день Рони в непрерывный: если приложение определит, что Рони недостаточно усердно работает, ему не заплатят. Оно отслеживает нажатия клавиш, щелчки мышью, запущенные приложения, а также каждые десять минут создаёт три случайные фотографии через веб-камеру, чтобы убедиться, что сотрудник за столом.

Если Рони отсутствовал во время съёмки или программа считала, что он недостаточно производителен, ему не платили за этот десятиминутный интервал. Коллега Рони отказался предоставить доступ к веб-камере и потерял работу.

Вскоре Рони понял, что прежняя работа в офисе давала куда больше свободы, чем работа из дома. Там он мог пообедать или сделать перерыв между задачами, а в Crossover даже поход в туалет в собственном доме требовал скорости и стратегии. Ему приходилось отслеживать мигание светодиода веб-камеры и мчаться в уборную, надеясь, что успеет вернуться до того, как WorkSmart сделает следующую фотографию.

Метрики, по которым его проверяли, много требовали — около 35 тысяч строк кода в неделю, пишет The Verge. Рони понял, что должен нажимать на клавиши по 150 раз за десять минут. Если он задумается и перестанет печатать, отрезок не зачтут.

Каждую неделю, если он не отрабатывал 40 часов, которые программа считала продуктивными, его могли уволить. Поэтому Рони приходилось дополнительно работать по 10 часов в неделю без оплаты, чтобы компенсировать время, которое WorkSmart считало недействительным.

Четыре других бывших и действующих сотрудника Crossover в Латвии, Польше, Индии и Бангладеше подтвердили, что должны были делать тоже самое.

«Первое, что вы потеряете, — социальную жизнь», — сказал Рони. Он перестал встречаться с друзьями, потому что постоянно был привязан к компьютеру, стремясь соответствовать метрикам.

По его словам, он стал редко выходить на улицу, начал сказываться стресс. Появилась бессонница, во время работы он не мог слушать музыку: WorkSmart считало YouTube непродуктивным и сокращало зарплату. По иронии качество работы начало страдать от сервиса для улучшения качества работы.

«Если у меня есть настоящая свобода, я смогу выдержать большее давление, когда понадобится», — считает он. Работая под таким давлением день за днём, он сгорел, а его продуктивность рухнула.

По словам главы Crossover Трибы, предприятия должны сами решать, как использовать инструменты и каким образом. Он сказал, что люди не должны бесплатно работать сверхурочно. Если WorkSmart определяет тайм-карту как бездействующую, сотрудник может обратиться к менеджеру с просьбой поправить её, а если ему нужен перерыв, он может сделать паузу.

Триба считает, что удалённая работа даст работникам больше гибкости, а мониторинг — способ привлечения сотрудников к ответственности. При этом собранные данные помогут лучше обучать сотрудников продуктивности, полагает глава Crossover.

Crossover — не единственный разработчик, который задумался об оптимизации с помощью данных, генерируемых сотрудниками.

Microsoft разрабатывает Workspace Analytics для анализа «цифрового следа» сотрудников, а Time Doctor от Staff.com, популярная программа среди аутсорс-компаний, отслеживает производительность в реальном времени, предупреждая работодателя, когда сотрудник отвлёкся, и делая скриншоты и фото через веб-камеру.

Сооснователь компании Fin и бывший вице-президент Facebook Сэм Лессин описывает, к чему это может привести. Он считает: обработка данных о сотрудниках сейчас находится в прединдустриальном состоянии, а работники часто сидят без дела в офисе, их труд неэффективен и неизмерим.

Он сравнивает появление ИИ со стандартизацией ролей рабочих на заводах и установкой оптимальной скорости для выполнения каждой задачи, как это сделал Фредерик Тейлор в конце 19 века на сталелитейном заводе.

Оптимизацией труда Тейлор начал эпоху промышленного роста, сопровождающуюся изнурительной, монотонной и опасно ускоряющейся работой на заводах. Сейчас же технологии позволяют создать «фабрику облачных вычислений» — управляемый ИИ пул знаний работников, к которому могут подключаться предприятия по мере необходимости — подобно аренде серверов.

Работа будет реорганизована так, что внимание человека будет сосредоточено на «человеческой» части работы, а машины могли бы забрать на себя большую часть «машинной», пишет Лессин.

По его мнению, «облако» позволит увеличить скорость, эффективность и качество работы со знаниями, одновременно предоставляя людям более гибкие рабочие места, ориентированные на «человеческую», а не механическую работу.

Но для Рони из Crossover обещание гибкости оказалось иллюзией. Через год наблюдения давление стало слишком сильным, он уволился. «Я думал, что всё потерял», — сказал он. Он бросил стабильную работу в офисе, потерял связь с друзьями, боялся, что не сможет оплачивать счета.

Через три месяца он нашёл место у прошлого работодателя — пусть и с меньшей зарплатой, но Рони был счастливее. В сложных делах ему помогал менеджер, он мог делать перерывы на обед, отдых и на чай, а в офисе есть даже спальное место.

Работа всегда означает отказ от какой-то степени свободы. Когда сотрудник устраивается на работу, он может согласиться с тем, чтобы руководитель указывал, как одеваться и где находиться в определенное время. Это считается нормальным, отмечает The Verge.

Работодатели воспринимаются как государство в государстве, власть которого люди принимали, потому что понимали, что всегда могли уйти. Они позволяли следить за собой в офисе, а беспокойство вызывали лишь случаи, когда работодатели затрагивают частную жизнь сотрудников.

Но автоматизированное управление может изменить мышление. Работодатель хоть и мог следить за рабочим столом работника на протяжении всего дня, вряд ли это делал, так так это не лучшее использование его собственного рабочего дня.

Теперь же автоматизировать можно не только наблюдение, но и сбор и анализ данных, необходимых для оптимизации работы подчиненных.

Работники беспокоятся, что данные используются, чтобы диктовать им каждый шаг. Например, сотрудник Amazon описал The Verge своё мрачное видение будущего, в котором устройства для контроля будут находиться на телах. «Если сейчас алгоритмы говорят менеджеру, когда наорать на нас, в будущем алгоритм может предложить активировать шоковый ошейник», — заявил он.

Он отметил, что пошутил, но лишь отчасти: Amazon запатентовала браслеты для отслеживания, которые вибрируют, направляя рабочих, а Walmart тестирует устройства, отслеживающее движение персонала на складе.

Этот сотрудник надеется на профсоюзы и растущую активность рабочих на складах Amazon. Так, во время последней промышленной революции появились профсоюзы, которые установили стандарты темпа рабочего темпа.

Темп работы — лишь одна из форм более широкого вопроса, который заставят задать технологии: каков правильный баланс между эффективностью и человеческой свободой? У начальников есть беспрецедентные возможности контролировать и оптимизировать поведение работников в мельчайших деталях.

«Считается ли незначительное увеличение производительности труда достойной мотивацией, чтобы заставить огромное количество людей испытывать хронический стресс и ограничить их до такой степени, что они почувствуют себя роботами?», — спрашивает The Verge.

Можно представить версию системы, которая собирает анонимные данные с рабочих мест, чтобы улучшить процессы. Она может повысить эффективность сотрудников и вместе с тем помочь избежать неудобств и раздражения с их стороны.

Конечно, это будет означать отказ от потенциально ценных данных и потребует признания, что иногда полезно вообще не собирать данные, чтобы сохранить личное пространство и автономность.

Даже небольшой уровень свободы от оптимизации может сделать рабочих счастливее. The Verge поговорил с рабочим Amazon, который сменил должность на складе на погрузку и разгрузку грузовиков.

У него тоже есть сканеры и метрики, но они лишь фиксируют его присутствие на рабочем месте. Свою роль и темп работы рабочий определял сам — ему это показалось «раем».

#amazon #контроль #автоматизация #ии