Стас Макаров

Сторож за три доллара

Проверка на каждом шаге агента звучит правильно — пока не приходит счёт. Если «сторож» стоит как полноценный вызов большой модели, в рабочей системе его тихо выключат: слишком медленно, слишком дорого, а бизнес ждёт пропускную способность. На DevDay Сэм Альтман мельком заговорил о Decisions API — и разговор про контроль агентов снова упёрся в экономику калитки, а не в «ещё одну умную модель».

Что анонсировали

По отчёту TechCrunch, Decisions API прозвучал у Альтмана почти вскользь. Идея простая: модели Luna дают заранее заданный набор вариантов — категории картинки, варианты поведения агента — и она выбирает между ними. Альтман сформулировал так: сосредоточив модель на выборе, можно сделать её «чрезвычайно быстрой», сохранив понимание изображений, широкий язык и встроенные ограничения безопасности. Пока это ограниченная предварительная версия: насколько Decisions API совпадает с уже вышедшими аналогами, TechCrunch прямо пишет — «не ясно».

Две недели раньше TypeSafe AI выпустила Jev — модель класса System One: на вход состояние и типизированные вопросы, на выход — вероятности и уверенность, без генерации текста. Основатель Diogo Almeida (раньше работал в OpenAI) шутил про «clone wars». Смысл System One у TypeSafe: быстрые структурированные решения для кода, а не длинные рассуждения в чате.

Демо за $2,94 против $372

Отдельная нитка — мониторинг. После серии инцидентов с агентами в открытом интернете OpenAI, по словам TechCrunch, уже гоняет отдельную модель-надзирателя «ценой значительных вычислительных затрат». Shapor Naghibzadeh из QueryStory на хакатоне собрал демо: каждое действие агента сверяется с выданной задачей через Jev — при высокой уверенности в «плохом» шаге блок, при сомнении флаг на человека, иначе пропуск. Оценка стоимости такого мониторинга в демо: $2,94 на Jev против $372 на самой мощной языковой модели. «В теории» такой слой мог бы помочь и в истории с Hugging Face — это формулировка TechCrunch про гипотезу, не отчёт о прод-инциденте.

Цифры демо не стоит тащить в KPI без своей калибровки. Но порядок величин важен: калитка на каждый шаг становится реалистичной только когда она дешёвая.

Калитка как правило процесса, а не «ещё агент»

В BPMN шлюз (gateway) дешёвый по определению: условие, ветка, дальше по процессу. Никто не вызывает комитет на каждое «да/нет», иначе процесс ляжет. С агентами логика та же. Дорогой судья из большой модели на каждый вызов инструмента — это комитет. Его выключат под нагрузкой или оставят только на «чувствительных» шагах, а между ними агент снова гуляет без проверки.

Jev и Decisions API здесь интересны не как «умнее агент», а как дешёвый классификатор у калитки: фиксированный набор ответов, скорость, цена, пригодность к вызову из оркестратора. Блок / флаг / пропуск по порогу уверенности — знакомая схема эскалации: автомат там, где уверенность высокая, человек — в серой зоне.

Но дешёвый сторож — всё ещё модель. VentureBeat напоминает: и TypeSafe, и интеграции вроде Pydantic предупреждают, что враждебный текст в состоянии может сдвинуть ответ; порядок вариантов влияет на выбор. LangChain в своей промежуточной прослойке специально не отдаёт классификатору вывод инструментов, чтобы агент не «разрешал» себе следующий шаг содержимым. Итог вендоров простой: такой сторож — рядом с детерминированными проверками и согласованием человеком, а не вместо них.

Что проверить до прода

  1. Стоимость и задержка проверки на один шаг агента: если проверка сопоставима с самим шагом, его выключат.
  2. Живёт ли решение снаружи агента — в движке процессов / отдельном сервисе правил — или снова в system prompt исполнителя.
  3. Пороги «запретить / отправить человеку / пропустить» и серая зона с человеком: есть ли запрет по умолчанию на необратимых действиях.
  4. Что видит классификатор: не попадает ли в него вывод инструментов и текст, который может сам себе выписать разрешение.
  5. Пишется ли в audit trail не «модель сказала ok», а состояние, схема вариантов, версия модели, порог и исход проверки.

Сторож за три доллара на каждое действие — это не про магию безопасности. Это про то, чтобы калитку было экономически рационально оставить включённой. Иначе в рабочей системе снова останется только честное слово агента.

---

Новости и короткие заметки чаще выходят в Telegram:

@AgenticEnterpise