Настройки решения

engine, storeInput, storeOutput, timeoutMs, fallbackAction, onEngineError и shadow — что делает каждая настройка выполнения решения, её значение по умолчанию и лимиты, — а также настройки рабочего пространства.

У каждого решения семь настроек выполнения, которые редактируются в карточке Движок и выполнение редактора (или в узле Движок визуального конструктора). Они входят в схему, поэтому клиенты API получают изменение, когда вы его публикуете; Playground сразу использует настройки черновика.

"settings": {
  "storeInput": true,
  "storeOutput": true,
  "timeoutMs": 5000,
  "fallbackAction": "escalate",
  "onEngineError": "error",
  "engine": "laya",
  "shadow": { "engine": "openai", "sampleRate": 0.1 }
}
НастройкаТипПо умолчаниюЧто делает
storeInputbooleantrueСохраняет state запроса в журнале выполнений. Файлы сохраняются как имя, тип, размер и первые 4 000 символов их текста — сам файл никогда.
storeOutputbooleantrueСохраняет result, confidence, взвешенные уровни, композиты и полные распределения в журнале выполнений.
timeoutMsinteger, 500–30 0005000Предельное время движка на один вызов этого решения с учётом повторов, в миллисекундах.
fallbackActioncontinue, block, escalate, fallbackescalateДействие, когда ни одна политика не сработала, а движок отказался отвечать на вопрос, choice ответил other или вопрос оказался ниже своего minConfidence, — а также, при onEngineError: "fallback", когда движок даёт сбой.
onEngineErrorerror, fallbackerrorЧто отвечает API при сбое движка: ошибку или 200 с действием fallback.
enginejev, laya, openaiотсутствуетДвижок, который выполняет это решение. Отсутствует = движок рабочего пространства по умолчанию. См. Движки и BYOK.
shadowobject: engine (jev, laya, openai) и sampleRate (0.01–1, по умолчанию 0.1)отсутствуетВторой движок, который в фоне тоже отвечает на выборку production-запусков, для сравнения. Отсутствует = выключено. См. shadow.

engine

Не указывайте его, чтобы следовать движку по умолчанию рабочего пространства (Настройки → Движок), — тогда смена движка по умолчанию сразу переводит все такие решения. Укажите его, чтобы закрепить одно решение за движком: например, оставить рабочее пространство на Jev, а многоязычное решение для сортировки запускать на Laya. В редакторе: Движок и выполнение → Движок.

Движок должен быть настроен в Настройки → Движок — для Laya нужен сервер Laya, для OpenAI Decisions — ключ OpenAI, — иначе запуски отвечают 424 ENGINE_NOT_CONFIGURED. При смене движка заново проверьте в Playground пороги вроде minConfidence: у каждой модели свой профиль уверенности.

storeInput и storeOutput

Эти настройки влияют только на то, что записывается в журнал; ответ API всегда полный.

  • При выключенном storeInput выполнения показывают Не сохраняются (storeInput выключен) вместо состояния, и запуск нельзя повторить в Playground. Недопустимые состояния тоже не сохраняются.
  • При выключенном storeOutput выполнения хранят статус, действие, причину действия, задержку, модель, токены и оценочную стоимость, но не ответы, уверенность, взвешенные уровни, композиты и распределения.

Выключайте их для решений, которые получают персональные или чувствительные данные. См. Безопасность и данные.

Когда запрос содержит Idempotency-Key, его ответ — включая ответы на вопросы — хранится 24 часа, чтобы повтор мог быть воспроизведён, независимо от storeOutput. См. Идемпотентность.

timeoutMs

Предельное время для движка, от 500 мс до 30 с — по умолчанию 5 секунд. Оно покрывает весь вызов движка, включая повторы:

  • Dcision делает до 2 повторов при сетевых ошибках, ответах провайдера 429, 503, 529 и других 5xx, выжидая 200 мс, а затем 400 мс, — или Retry-After провайдера, если он его прислал и тот укладывается в предельное время.
  • Таймаут не повторяется, как и любой 4xx, кроме 429.
  • На общем ключе движка Dcision всплески запросов ждут свободного слота в пределах того же предельного времени, а не завершаются ошибкой сразу.

Вызов, у которого закончилось время, завершается ошибкой 504 ENGINE_TIMEOUT — или отвечает действием fallback, когда onEngineError равен fallback. Увеличивайте timeoutMs для больших состояний или многих вопросов; уменьшайте его на критичных к задержке путях, где есть fallback. Задайте своему HTTP-клиенту таймаут на несколько секунд больше, чем timeoutMs.

fallbackAction

Действие, которое применяется, когда ни одна политика не сработала и при этом либо движок отказался отвечать на вопрос (отказ, только OpenAI Decisions), либо вопрос choice ответил зарезервированным вариантом other, либо уверенность вопроса оказалась ниже его minConfidence. Значение по умолчанию, escalate, отправляет неуверенные случаи человеку; continue фактически игнорирует неуверенность. См. Политики и действия.

Действие fallback — это также то, чем отвечает onEngineError: "fallback" при сбое движка.

onEngineError

Что происходит, когда движок даёт сбой — таймаут, перегруженный или недоступный провайдер, отклонённый ключ, ответ вне контракта — после повторов:

ЗначениеAPI отвечает
error (по умолчанию)Ошибкой, например 504 ENGINE_TIMEOUT или 503 ENGINE_UNAVAILABLE. Что она означает, решает ваш код.
fallback200 OK с action = fallbackAction решения, action_reason = { "type": "engine_error", "code": "<engine error code>" }, пустыми result и confidence и нулевыми токенами и стоимостью.
200 OK с onEngineError: fallback
{
  "decision_id": "dec_3fKq9ZtW1mXcV7bN2pLa",
  "execution_id": "exec_Vn4Kp8Wd2Lq6Tz1Xc9Bs",
  "schema": "lead-qualification",
  "version": 3,
  "result": {},
  "confidence": {},
  "action": "escalate",
  "action_reason": { "type": "engine_error", "code": "ENGINE_TIMEOUT" },
  "metrics": {
    "latency_ms": 5004,
    "engine": "jev",
    "model": "jev-1.13.0",
    "estimated_cost_usd": 0,
    "input_tokens": 0,
    "output_tokens": 0
  }
}
  • Такие ответы не тарифицируются и не сохраняются для идемпотентности: повтор с тем же Idempotency-Key снова обращается к движку.
  • Запуск записывается как выполнение со статусом Ошибка и кодом ошибки движка.
  • Это касается только сбоев движка (коды ENGINE_*, кроме ENGINE_NOT_CONFIGURED). Недопустимые состояния, квота, rate limits и отсутствующий ключ движка по-прежнему отвечают своими ошибками.

Выбирайте fallback для путей, которые должны отвечать всегда, — чат или голосовой ассистент, оформление заказа — и задавайте fallbackAction, безопасный без ответов, обычно escalate. В редакторе: Движок и выполнение → Если движок даёт сбой → Ответить действием fallback.

shadow

Теневой режим проверяет другой движок на реальном трафике, не меняя того, что получают вызывающие стороны. С settings.shadow часть production-запусков — sampleRate, по умолчанию 10%, от 1% до 100% — выполняется ещё и на теневом движке, в фоне, когда ответ уже готов:

"settings": {
  "engine": "jev",
  "shadow": { "engine": "openai", "sampleRate": 0.2 }
}
  • Только production-запуски: API, URL вебхуков и MCP-сервер, на опубликованной версии. Запуски в Playground и ответы GPT-Live никогда не получают теневого запуска, и ничего не запускается, если теневой движок — это тот движок, который ответил.
  • Тот же вход. Теневой движок получает ровно то же, что и основной: то же state, с уже прочитанными файлами, и те же вопросы.
  • Ответ никогда не меняется. result, action и назначения берутся от основного движка; у теневого вызова нет назначений, и запрос его не ждёт.
  • Без кредитов Dcision. Теневые запуски не засчитываются во включённые решения и не расходуют кредиты. С вашим собственным ключом провайдера или OpenAI провайдер выставляет счёт за вызов вашему аккаунту.
  • Сохраняется в выполнении: модель теневого движка, ответы, уверенность, задержка и входные токены — или код ошибки, если теневой вызов не удался. Неудачный теневой вызов никогда не обрушивает запуск.

Теневой движок должен быть настроен в Настройки → Движок, как и любой движок; иначе его вызовы завершаются с ENGINE_NOT_CONFIGURED и отображаются как неудачные. Затем Обзор решения показывает, как часто оба движка совпадают, — см. Обзор и калибровка и Сравнение и теневой запуск движков. В редакторе: Движок и выполнение → Теневой движок и Доля тени (%). Как и любая настройка, он попадает в production, когда вы публикуете.

Настройки рабочего пространства

Раздел Настройки в приложении содержит то, что применяется ко всем решениям рабочего пространства. Открыть его может любой участник рабочего пространства; менять — администраторы и владелец, а «Опасная зона» принадлежит только владельцу, — см. Команда, роли и аккаунт.

НастройкаКто меняетОписание
НазваниеАдминистраторы и владелецНазвание рабочего пространства, от 2 до 80 символов. Slug рабочего пространства неизменен.
Хранение журнала выполненийАдминистраторы и владелец7, 14, 30, 90, 180 или 365 дней. Ваш тариф ограничивает его: журналы хранятся в течение меньшего из этого значения и срока хранения тарифа — см. Выполнения и использование.
ДвижокАдминистраторы и владелецДвижок по умолчанию — Jev, Laya или OpenAI Decisions — и способ вызова каждого: ключ или сервер Dcision либо ваш собственный ключ провайдера, ключ OpenAI или сервер Laya, с моделью. См. Движки и BYOK. Применяется к новым запускам сразу, для всех решений, которые не выбирают свой движок.
ОрганизацияАдминистраторы и владелецЮридическое название, налоговый номер, e-mail для счетов, страна, адрес и сайт — указываются в счетах.
УчастникиАдминистраторы — для участников и наблюдателей; владелец — для администраторовКто состоит в рабочем пространстве и с какой ролью — владелец, администратор, участник или наблюдатель, — а также приглашения. См. Команда, роли и аккаунт.
НазначенияАдминистраторы и владелецСекрет подписи доставок и секреты рабочего пространства, которые используют назначения.
Опасная зонаВладелецУдаление рабочего пространства.

На этой странице