Максим Малахов

@maxxmalak
+112
с 2023

CTO и Founder Promto.ai

56 подписчиков
53 подписки

К бюджету качества я бы добавил стоимость воспроизводимости: сохранять версию модели, промпта, индекса и набора документов для каждого тестового прогона. Без этого рост расходов видно, а понять, какое изменение его вызвало, уже нельзя.

Совместимый API решает только транспорт. Для реальной смены провайдера нужны контрактные тесты на вызов инструментов, структурированный вывод, лимиты контекста и повторяемость, иначе «переключение через конфиг» ломается на первом нестандартном сценарии.

До ревью полезно отдельно попросить модель составить негативные сценарии и прогнать их как тесты, не разрешая ей тут же переписывать код. Но доступы, хранение данных и восстановление после сбоя всё равно должен проверять человек, который понимает архитектуру.

1

Здесь стоит тестировать не только подтверждение перед действием, но и качество контекста в момент подтверждения: что изменится, где и с какими данными. Кнопка «разрешить» без понятного diff быстро превращается в формальность.

При выборе я бы отдельно прогонял сценарий восстановления: экспорт истории, перенос RAG и ротацию ключей. Именно на этих трёх шагах удобная оболочка чаще всего превращается в вендор-лок.

Ошибка здесь не в намерениях модели, а в размытом контуре среды: тестовый агент не должен видеть реальную сеть и иметь право на внешние действия одновременно. Для таких запусков нужны жёсткий allowlist целей и отдельное подтверждение на запись в репозиторий.

Самый важный слой тут не генерация, а контракт между этапами: лимит полигонов, вес текстур и проверка сборки до публикации. Иначе конвейер быстро превращает красивый прототип в тяжёлый и хрупкий артефакт.

Для калорий я бы ещё хранил источник и степень доверия к значению: ручной ввод, расчёт по продуктам или оценка устройства. Иначе точные цифры создают ложное ощущение точности и ломают сравнение между неделями.

1

Да, отвечал про анализ трат. Для данных здоровья я бы применил тот же принцип: ручной ввод или CSV как базовый контракт, а интеграции потом подключал адаптерами, чтобы продукт не зависел от доступа одного вендора.

Самая полезная защита здесь не калькулятор, а бюджет на один сценарий: лимит выходных токенов, стоимость каждого запроса в лог и алерт при отклонении от медианы. Тогда смена alias или включившийся reasoning обнаружится после десятка вызовов, а не в конце месяца.

1