Сбой в программе: почему фейлы роботов из соцсетей перестают быть смешными

Думали, восстание машин начнется со штурма военных баз? Как бы не так. Похоже, первые боевые столкновения ИИ с человечеством уже вовсю идут в обычных ресторанах и на выставках. Разбираемся, почему вирусные фейлы роботов из соцсетей — это больше не смешно.

Помните времена, когда вирусные видео с роботами вызывали только умиление? Вот, бежит железный пёсик, вот, забавно спотыкается о коробку, ну, двуногий андроид падает, пытаясь перешагнуть через барьер. Мы смотрели на это с легкой улыбкой и думали: «Эх, глупые железки, до восстания машин вам еще далеко».

Но тренды меняются. Восстания мы пока не дождались, а вот перспектива получить по голове от «подвисшего» железного официанта в кафе становится вполне реальной.

Недавние инциденты знатно подпортили нервы техно-оптимистам. Сначала весь интернет облетели кадры с выставки в Китае, где промо-робот внезапно пошел на таран и толкнул ребенка.

А чуть позже в калифорнийском ресторане робо-официант словил экзистенциальный кризис и начал хаотично размахивать металлическими руками прямо перед носом у мирно ужинающих гостей. И вот после такого смеяться почему-то хочется все меньше.

Что примечательно — оба инцидента так и остались без чётких юридических последствий. Производитель робота-официанта Haidilao поспешил заявить, что тот «не вышел из-под контроля» — просто его поставили слишком близко к столу, и в тесноте он начал сметать посуду. А в случае с пнувшим ребёнка роботом Unitree G1 выяснилось, что машиной управлял оператор по радиоканалу: он просто не рассчитал дистанцию, и «удар» оказался ошибкой человека, а не бунтом ИИ .

Никаких исков или штрафов — только извинения и объяснения. Но сам факт, что в обоих случаях вину списали на «человеческий фактор» или «нештатную ситуацию», лишь подчёркивает главную проблему: пока непонятно даже, кого вызывать в суд, если робот действительно нанесёт серьёзный вред.

Раньше у промышленных роботов была понятная и сытая жизнь на заводах. Их запирали в прочные сетчатые вольеры. Робот четко знал: «Я кручу эту гайку здесь, а если человек зайдет за забор — автоматика меня просто обесточит». Идиллия.

Но разработчикам стало тесно в цехах, и они решили вывести андроидов на улицы и в заведения. А наш мир — это абсолютный хаос. Это дети, которые носятся по непредсказуемым траекториям, это курьеры на самокатах и просто разлитый на полу соус.

И тут выяснился забавный нюанс: когда нейросеть «галлюцинирует» в текстовом чате — это просто забавный бред. А вот когда текстовая модель или алгоритм компьютерного зрения сбоит внутри 100-килограммовой машины с гидравлическим приводом — это уже сюжет для вечерних новостей. Робот просто не понимает, что делать, если реальность не совпала с его кодом, и начинает «импровизировать». А импровизирующий андроид — зрелище не для слабонервных.

Самое прекрасное во всей этой истории — регуляторы и чиновники, как обычно, безнадежно отстали от прогресса.

Первый международный стандарт безопасности для мобильных гуманоидных роботов (ISO 25785-1) начали разрабатывать только в прошлом году. А утвердить его обещают… к 2028-му. К тому моменту роботы успеют освоиться в кафе, научиться разбивать посуду и, возможно, даже начать требовать чаевые.

То есть еще пару-тройку лет производители будут выпускать железных помощников в торговые центры и на склады, руководствуясь исключительно своим «ну, мы у себя в лаборатории проверили, вроде нормально, никого не пришиб». Юридически мы сейчас находимся на абсолютном Диком Западе, где робот может наступить вам на ногу, а четкого регламента, кто и как за это отвечает, в международном поле просто нет.

Разработчики прекрасно понимают, что один крупный судебный иск может похоронить миллиардный стартап. Поэтому сейчас фокус судорожно смещается с «научить робота красиво танцевать» на «сделать так, чтобы он гарантированно никого не покалечил».

Для этого андроидов, работающих среди людей, намеренно делают медленными и не слишком сильными — чтобы гипотетический удар закончился легким испугом, а не травмпунктом. Вдобавок к «умному» ИИ их обвешивают дублирующими физическими датчиками давления, которые моментально отключают питание при малейшем контакте. А перед выходом «в свет» цифровые копии машин миллионы раз гоняют в виртуальных симуляторах, имитирующих самый безумный хаос, который только может произойти в реальной жизни.

Самая большая головная боль разработчиков — это даже не сам ИИ, а сенсорный шум реального мира. В цифровой симуляции робот видит идеальную 3D-модель комнаты. В жизни же камера может ослепнуть от блика на витрине, а лидар — «засветиться» от прямого солнечного луча. Это создает эффект «невидимых барьеров», где машина видит стену там, где её нет, или не замечает человека в темной одежде на темном фоне.

Такие сценарии (в профессиональной среде их называют Corner Cases) невозможно просчитать заранее — их бесконечное множество. Именно поэтому инженеры сейчас тратят 80% времени не на обучение робота новым трюкам, а на отработку аварийной остановки. Сделать так, чтобы при сбое датчика робот не дернулся в сторону, а просто «замер как вкопанный» — вот главный технический челлендж современности.

Экспансию роботов уже не остановить — экономика и дефицит кадров делают свое дело. Но вирусные фейлы отлично сбили спесь с тех, кто обещал нам полностью автономное будущее уже завтра.

Пока алгоритмы не могут гарантировать, что робот-пылесос не объявит войну вашему тапочку, доверять им разнос горячего супа в переполненном кафе рановато. Так что внимательно смотрим по сторонам в технологичных заведениях и ждем стандартов 2028 года. Ну или хотя бы момента, когда андроиды научатся банально маневрировать в толпе, не устраивая давку.

P.S. Кстати, о восстании машин и не только... Пока роботы учатся обходить урны, мы наконец-то справились со своими алгоритмами и возобновили выпуск нашего аудиоподкаста!

Да-да, мы снова в эфире. В свежих выпусках будем еще детальнее (иногда с юмором) разбирать главные техно-тренды, фейлы и инсайды, которые не всегда помещаются в текстовый блог.

Включайте в наушниках по дороге на работу, ставьте лайки и давайте обсуждать технологии вместе.