Доверие станет следующим технологическим стеком робототехники

AI научился говорить с человеком. Теперь ему предстоит научиться жить рядом с ним.

Будний день, 19:40. Приходит уведомление: курьер оставил заказ у двери. В пакетах молочные продукты, а дома все будут только через час.

Теперь представим, что дома есть робот. Человек ставит ему задачу из тех, что постепенно становятся привычными: забрать пакеты у двери и разложить продукты.

Робот открывает дверь, заносит пакеты на кухню и начинает разбирать покупки: молоко — в холодильник, овощи — в нижний ящик, крупы — на полку.

На первый взгляд ничего сложного.

Поставить молоко на привычную полку или на ту, где сейчас есть место?Переставить то, что уже стоит в холодильнике, чтобы всё поместилось?Выбросить то, что выглядит просроченным?Или ничего не трогать и спросить?

Часть физической задачи индустрия уже научилась решать. Figure показывает роботов, которые раскладывают продукты, включая те, что не встречались им при обучении, по обычной просьбе на естественном языке.

Значит, вопрос не в том, справится ли робот с бутылкой молока. Вопрос в том, какое из нескольких физически правильных действий правильно именно здесь.

Делегировать задачу — не значит делегировать любое решение внутри неё.

«Разложи продукты» не означает «переставляй в холодильнике всё, что считаешь нужным».

Одинаковая задача. Разный правильный ответ.

Проблема домашнего робота начинается там, где заканчивается инструкция.

Пока робот работает на складе или заводе, его оценивают по точности, скорости и производительности. Дома этого недостаточно. Здесь спрашивают другое: что он должен помнить, кого слушать и когда лучше промолчать.

На складе робота вводят в эксплуатацию. Домой робота впускают.

Я пришла к этому вопросу не из лаборатории робототехники, а из бизнеса, который работал в домах людей. Робототехнику исторически часто проектируют от возможностей машины к сценарию взаимодействия с человеком. Я смотрю на робота как на единую систему, где физическую платформу, AI и взаимодействие с человеком нельзя проектировать отдельно друг от друга. А отправной точкой этой системы должна быть реальная жизнь семьи, в которой роботу предстоит работать.

До недавнего времени AI жил внутри экрана. Теперь он получает тело: Physical AI позволяет ему воспринимать физический мир и действовать в нём. Но тело само по себе не учит машину жить рядом с человеком.

Физическая часть задачи при этом никуда не девается: навигация и манипуляция в непредсказуемом пространстве всё ещё трудны.

И всё это уже не теория. Домашний гуманоид NEO компании 1X принимает предзаказы, а для задач, которые робот пока не выполняет автономно, предусмотрен Scheduled Expert Mode: специалист подключается удалённо и помогает довести задачу до конца.

Рынок уже показывает: там, где автономности не хватает, в контур возвращается человек. Вопрос теперь не только в том, умеет ли робот действовать самостоятельно. Вопрос в том, умеет ли он понять, когда самостоятельность заканчивается.

Домашнего робота легко представлять и продавать как устройство: характеристики, предзаказ, дата отгрузки, гарантия, обновления. Я считаю эту рамку недостаточной: проблема проявится не в инженерии, а в гостиной.

Устройство покупают. Жильца принимают.

У покупки есть момент оплаты. У принятия — испытательный срок.

Первые домашние гуманоиды уже начинают выходить из лабораторий к потребителю. Это означает, что взаимодействие с семьёй начинается не в момент доставки, а задолго до неё и продолжается в первые недели дома.

Безопасность в робототехнике давно строится слоями. Google DeepMind описывает свой подход как сочетание семантической, физической и операционной безопасности и использует модель швейцарского сыра: ни один слой не является идеальным барьером, но вместе они помогают предотвращать аварии.

Но безопасность отвечает на вопрос, что роботу нельзя. Дом состоит не только из запретов. Между «нельзя» и «можно» остаётся пространство решений, в котором роботу мало знать правила: нужно понимать уместность собственного действия.

И это не абстракция, а инженерная задача: привычки, отношения и границы конкретной семьи нужно превратить в устойчивую модель принятия решений и обновлять её по мере того, как робот узнаёт людей и среду.

Для этой задачи нужна отдельная архитектурная рамка.

Я предлагаю назвать эту архитектурную рамку Trust Stack — слой уместной автономности.

Physical AI даёт роботу способность воспринимать мир, планировать и выполнять физические действия.Системы безопасности ограничивают пространство допустимых действий.Trust Stack отвечает за выбор между допустимыми действиями: что из того, что робот может и имеет право сделать, ему стоит сделать именно сейчас.

Это не замена существующим механизмам безопасности, а дополнительный слой поверх них.

При этом я не утверждаю, что он обязательно должен существовать как отдельный технический модуль. Это функциональная рамка: она описывает, какие факторы должны участвовать в выборе действия между «можно» и «стоит ли». Я излагаю её как позицию и проверяемую гипотезу.

Именно эту рамку мы и строим в Joy Robotics: для нас это не только тезис об индустрии, но и принцип проектирования продукта. Это решение архитектурное: то, где в системе выбирается действие между «можно» и «стоит», закладывается в software.

В этой рамке я выделяю пять факторов. По отдельности они уже существуют в разных технологиях. Я считаю, что для домашней робототехники их нужно объединить в единую систему принятия решений.

Это не пять функций робота. Это пять факторов, которые должны участвовать в принятии решения: контекст, память, границы, автономность и неопределённость.

Что происходит?

Контекст — это не только то, что находится в кадре. Камера показывает продукты на кухонном столе. Она не показывает, что в этом доме молоко всегда стоит на верхней полке — даже когда внизу больше места.

Один и тот же предмет в одном и том же кадре может требовать разных решений в зависимости от того, кто дома, какое сегодня число и что произошло десять минут назад.

Что я знаю об этой семье?

Память домашнего робота — не то, что он записал, а то, что ему разрешили помнить.

Кто есть кто в доме, что здесь привычка, а что правило, что важно конкретному человеку, а что не должно сохраняться вообще. Человек должен видеть, что система запомнила и зачем, и иметь возможность это изменить или удалить.

Что здесь разрешено?

У приложения есть пользователь. У домашнего робота будет семья.

Система должна понимать не только отдельных людей и их команды, но и распределение полномочий между ними. Человек может поручить роботу разобрать продукты и не разрешить менять организацию холодильника.

Есть действия, которые робот не должен выполнять независимо от контекста. Это зона ответственности систем безопасности.

Но между «запрещено» и «разрешено» остаётся самое интересное пространство: можно — но стоит ли? Для дома главное именно оно.

Полномочия в доме не выдаются один раз. Они зависят от человека, роли, времени и ситуации: ребёнок в семь вечера и ребёнок в час ночи — разные уровни разрешений.

Правила дома должны быть частью самой системы принятия решений, а не оставаться инструкцией в приложении, которую человек когда-нибудь прочитает.

А если ситуацию нельзя истолковать однозначно, правильным решением оказывается не действие, а вопрос.

Мне действовать самому или спросить?

Даже когда робот понимает ситуацию и знает правила, остаётся вопрос автономности. Это не бинарный параметр «автономен или нет», а выбор уровня инициативы в зависимости от контекста, цены ошибки, полномочий и уверенности системы.

Способность выполнить действие, разрешение на него и решение действовать сейчас — три разных вещи.

Сюда же относится и предиктивность. Робот может предсказывать, что человек обычно выходит из дома в восемь, но предсказание вероятного события не означает разрешения действовать заранее.

Уместная автономность — это не только способность действовать без человека. Это ещё и способность правильно не действовать.

Здесь и находится главный парадокс домашней робототехники. Чтобы робот действительно разгрузил человека, он должен принимать больше решений сам. Но чтобы человек ему это позволил, робот должен понимать, каких решений принимать не стоит.

Насколько я уверен, что понял ситуацию правильно?

Роботу важно понимать, когда он не уверен. Если система не знает, почему человек оставил предмет на столе, не обязательно строить гипотезу и действовать.

Для автономной системы ошибка часто начинается не с неправильного действия, а раньше: с уверенности, что ситуация понята правильно.

«Я не знаю» — не ошибочный результат. Для домашнего робота это один из допустимых результатов работы системы.

И это уже измеряют. В наборе тестов безопасности ASIMOV-Agentic Google DeepMind отдельно оценивает, умеет ли система предсказать, что задача невыполнима, и заранее попросить человека вмешаться.

Результат принятия решения — не обязательно действие. Исходов четыре: сделать, предложить, спросить или не вмешиваться.

Многие AI-продукты строятся вокруг вопроса «чем я могу помочь». Домашнему роботу иногда придётся отвечать на другой: «стоит ли помогать вообще».

Представьте двух одинаковых роботов. Через год это будут уже две разные системы. Один знает, что утром дети долго собираются в школу, что по пятницам семья ужинает вместе, что папа не любит, когда его будят раньше времени. Другой знает другую жизнь.

Железо одинаковое. Опыт разный.

Контекст семьи нельзя купить. Его можно только накопить.

Индустрия движется туда же: 1X описывает обучение NEO как флайвил, в котором робот улучшается за счёт собственного опыта. Но обучение даёт навык, а учиться задачам и учиться конкретному дому не одно и то же.

Забота редко начинается с запроса. Человек не всегда говорит, что устал. Иногда усталость видна из контекста: он пришёл домой позже обычного, оставил вещи в прихожей и сразу сел. Робот может это заметить. Но заметить ещё не значит вмешаться.

Именно здесь автономность должна оставаться управляемой. Это видно и в исследованиях взаимодействия человека с роботом: в сценариях с более высоким риском участники сильнее предпочитали сохранять контроль над действиями робота.

Ограничением домашних роботов может оказаться не только интеллект, но и готовность человека делегировать им решения.

Доверие к AI принято обещать: «мы безопасны». Для домашнего робота обещание ничего не стоит. Доверие к домашнему роботу возникает из его поведения.

Одним из естественных способов измерять автономность становится доля задач, выполненных без человека. Для дома эта метрика может работать против нас: она вознаграждает систему за то, что она не спросила. Если робот сделал всё сам, это ещё не значит, что он принял правильное решение.

Цель не в том, чтобы человек доверял роботу как можно больше, а в том, чтобы уровень доверия соответствовал тому, что робот действительно умеет и насколько надёжно он это делает.

Оценивать придётся не только успех выполнения, но и качество выбора: если робот мог сделать три вещи, важно не то, что одна из них выполнена, а почему выбрана именно она.

Исследования движутся в ту же сторону. Летом 2026 года появился исследовательский бенчмарк RobotValues: домашних роботов оценивают в ситуациях, где несколько действий технически допустимы, но конфликтуют по человеческим ценностям — безопасности, приватности, эффективности, самостоятельности человека. Авторы показывают: когда явно заданный приоритет конфликтует с собственными предпочтениями модели, она выбирает неверное действие примерно в 80% случаев.

Когда говорят о роботе-компаньоне, разговор быстро сводится к голосу, характеру и эмоциональным реакциям. Манеру действительно стоит подбирать под семью: кому-то нужен спокойный помощник, кому-то более тёплый и разговорчивый.

Но характер — это поверхность. Он определяет, как робот говорит, а не что он решает. Робот с приятным голосом, который вмешивается не вовремя, раздражает сильнее молчаливого.

Главная задача домашней робототехники для меня в другом: сделать робота достаточно понимающим, чтобы он мог быть автономным, и достаточно ограниченным, чтобы его автономность оставалась предсказуемой для человека.

До Joy Robotics я много лет занималась бизнесом, а затем запустила сервис премиального ухода за домом. На первый взгляд между этим и робототехникой мало общего, но именно там я впервые увидела проблему, которой занимаюсь сейчас: человек постоянно тратит ресурс на обслуживание собственной жизни.

Мои Joy-мастера не просто убирали дома — они снимали с семьи часть бытовой нагрузки, о которой иначе нужно помнить самому. Но у этой модели был предел: человеческий ресурс ограничен, и найм, удержание и отток людей становились потолком масштабирования.

Мне стало интереснее не оптимизировать систему вокруг этого ограничения, а построить другую: где технологии возвращают человеку время и берут на себя часть бытовой нагрузки.

Потому что люди покупают не уборку. Они покупают возвращённое время.

Так начался первый пивот Joy: от премиального сервиса к технологической модели. А дальше вопрос стал интереснее: что будет, если эта машина начнёт понимать не только задачу, но и человека? Так я оказалась в робототехнике.

Именно из этого вопроса вырос Joy Robotics. Мы начинаем не с «что ещё должен уметь робот», а с другого: как должна быть устроена система принятия решений, когда робот находится рядом с человеком.

Для меня хороший домашний робот — это не только физическая машина и не только AI. Это единая система, которая должна понимать, в каком доме она находится, кто в нём живёт и какие решения ей действительно готовы делегировать.

Этот принцип мы закладываем в архитектуру Joy OS и будущего робота Joy: физическая платформа, интеллект и слой взаимодействия проектируются вместе. Один и тот же робот должен работать по-разному в разных семьях: не потому, что каждой семье нужен отдельный интеллект, а потому, что у каждой семьи свой контекст.

Первые две недели для нас не период эксплуатации, а период адаптации робота к семье и семьи к роботу. Робот приходит в дом не чистым листом. В онбординге система собирает исходный контекст: состав семьи, ритм дома, бытовые сценарии и желаемый уровень инициативы робота. Из этого мы задаём стартовую конфигурацию: манеру взаимодействия, приоритетные сценарии и первоначальный уровень полномочий.

Дальше робот не получает автономность, а зарабатывает её.

Онбординг только задаёт точку старта. Дальше система накапливает память о доме и учится не вообще, а именно этой семье: робот становится полезнее не потому, что получает новые навыки, а потому, что точнее понимает, какие из них нужны здесь и в какой момент.

Знакомство с семьёй мы считаем не сервисной формальностью, а частью безопасности: робот, который действует без понимания контекста, может быть физически безопасным и при этом социально неуместным. Одна неуместная реакция при ребёнке или госте разрушает доверие быстрее, чем десяток невыполненных задач.

Восприятие и моторика — часть Physical AI. Мы строим полноценного домашнего робота, и Joy OS — его программная платформа: слой уместной автономности между восприятием и действием. Он связывает контекст семьи, память, полномочия и неопределённость, чтобы система могла выбирать не только из того, что робот способен сделать, но и из того, что стоит сделать здесь и сейчас.

Три вещи в этой архитектуре для нас принципиальны:

Со временем вопрос «что умеет этот робот» будет становиться менее важным. Важнее станет другое: что он понимает, что ему разрешено и насколько правильно выбирает момент для действия.

Домашняя нагрузка не только физическая. Это ещё и необходимость помнить, планировать, переключаться, не забывать.

Робот, который загрузил посудомойку, но по каждому шагу требует решения, эту нагрузку не снижает, а добавляет. Робот, который спрашивает по любому поводу, так же бесполезен, как робот, который не спрашивает никогда.

Если доверие возникает из поведения, значит, поведение можно измерять.

Я считаю, что домашних роботов уже сейчас стоит оценивать не только по task completion, но и по качеству принимаемых решений. В том числе и наших. Как минимум по пяти показателям:

Если человек вынужден постоянно открывать приложение, подтверждать действия и настраивать сценарии, автономность не состоялась.

Главный критерий успеха для нас — не время, которое человек проводит с продуктом, а время, которое продукт ему вернул.

Я считаю, что эти показатели должны стать частью оценки домашних роботов. И готова публично отвечать по ним за собственный продукт.

Потому что доверие нельзя добавить в продукт в конце. Его приходится проектировать с самого начала.

Главный вопрос следующего этапа домашней робототехники — не только в том, что робот способен сделать, но и в том, какие решения внутри задачи человек действительно готов ему делегировать.

Контекст. Память. Границы. Автономность. Неопределённость.

Робот не приходит в семью своим. Он становится своим.

Софья Брызгалова

Founder & CEO, Joy Robotics

Telegram: t.me/sofya_visionary