决策设置
engine、storeInput、storeOutput、timeoutMs、fallbackAction、onEngineError 和 shadow——决策的每项运行时设置有什么作用、默认值和限制——以及工作区设置。
每个决策有七项运行时设置,在编辑器的引擎与运行时卡片(或可视化构建器的引擎节点)中编辑。它们是 schema 的一部分,因此 API 客户端要在你部署之后才会获得更改;Playground 则会立即使用草稿的设置。
"settings": {
"storeInput": true,
"storeOutput": true,
"timeoutMs": 5000,
"fallbackAction": "escalate",
"onEngineError": "error",
"engine": "laya",
"shadow": { "engine": "openai", "sampleRate": 0.1 }
}| 设置 | 类型 | 默认值 | 作用 |
|---|---|---|---|
storeInput | boolean | true | 在执行日志中保留请求的 state。文件只保留其名称、类型、大小及其文本的前 4,000 个字符——从不保留文件本身。 |
storeOutput | boolean | true | 在执行日志中保留 result、confidence、加权等级、复合指标和完整分布。 |
timeoutMs | integer,500–30,000 | 5000 | 此决策一次调用的引擎截止时间,包含重试,以毫秒为单位。 |
fallbackAction | continue、block、escalate、fallback | escalate | 当没有策略匹配,且引擎拒绝回答某个问题、某个 choice 回答了 other 或某个问题低于其 minConfidence 时的行动——以及在 onEngineError: "fallback" 下引擎出错时的行动。 |
onEngineError | error、fallback | error | 引擎出错时 API 的回答:返回错误,或返回带 fallback 行动的 200。 |
engine | jev、laya、openai | 不设置 | 运行此决策的引擎。不设置 = 使用工作区的默认引擎。参见引擎与 BYOK。 |
shadow | object:engine(jev、laya、openai)和 sampleRate(0.01–1,默认 0.1) | 不设置 | 第二个引擎,在后台也回答一部分生产运行,用于比较。不设置 = 关闭。参见 shadow。 |
engine
不设置它,决策就跟随工作区的默认引擎(设置 → 引擎)——之后更改默认引擎会一次性迁移所有这样的决策。设置它可以把某个决策固定到一个引擎上:例如让工作区保持使用 Jev,而在 Laya 上运行一个多语言分诊决策。在编辑器中:引擎与运行时 → 引擎。
引擎必须在 设置 → 引擎 中完成配置——Laya 需要一台 Laya 服务器,OpenAI Decisions 需要一个 OpenAI 密钥——否则运行会返回 424 ENGINE_NOT_CONFIGURED。切换引擎时,请在 Playground 中重新测试 minConfidence 等阈值:每个模型都有自己的置信度特征。
storeInput 和 storeOutput
这些设置只影响记录到日志中的内容;API 响应始终是完整的。
- 关闭
storeInput后,执行记录会显示 未保存(storeInput 已关闭) 而不是 state,并且该运行无法在 Playground 中重放。无效的 state 同样不会被保存。 - 关闭
storeOutput后,执行记录保留状态、行动、行动原因、延迟、模型、token 和估算成本,但不保留回答、置信度、加权等级、复合指标或分布。
对于接收个人或敏感数据的决策,请关闭它们。参见安全与数据。
当请求带有 Idempotency-Key 时,无论 storeOutput 如何设置,其响应——包括回答——都会保留 24 小时,以便重放重试请求。参见幂等性。
timeoutMs
引擎的截止时间,从 500 毫秒到 30 秒——默认 5 秒。它覆盖整个引擎调用,包括重试:
- 对于网络错误以及提供商返回的
429、503、529和其他5xx回答,Dcision 最多重试 2 次,先等待 200 毫秒,再等待 400 毫秒——或者在提供商发送了Retry-After且它在截止时间之内时,按该值等待。 - 超时不会重试,除
429之外的4xx也不会重试。 - 在 Dcision 共享的引擎密钥上,突发请求会在同一截止时间内等待空闲槽位,而不是立即失败。
超时的调用会以 504 ENGINE_TIMEOUT 失败——或者在 onEngineError 为 fallback 时以 fallback 行动作答。对于较大的 state 或较多的问题,请调高 timeoutMs;在有 fallback 的延迟敏感路径上则调低它。给你自己的 HTTP 客户端设置比 timeoutMs 长几秒的超时。
fallbackAction
当没有策略匹配,并且引擎拒绝回答某个问题(拒绝回答,仅限 OpenAI Decisions)、某个 choice 问题回答了保留的 other 选项、或某个问题的置信度低于其 minConfidence 时所采用的行动。默认值 escalate 会把不确定的情况交给人工;continue 实际上等于忽略不确定性。参见策略与行动。
当引擎出错时,onEngineError: "fallback" 回答的也是 fallback 行动。
onEngineError
在重试之后引擎仍然出错时——超时、提供商过载或无法访问、密钥被拒绝、回答不符合契约——会发生什么:
| 值 | API 的回答 |
|---|---|
error(默认) | 返回错误,例如 504 ENGINE_TIMEOUT 或 503 ENGINE_UNAVAILABLE。由你的代码决定其含义。 |
fallback | 200 OK,其中 action = 决策的 fallbackAction,action_reason = { "type": "engine_error", "code": "<engine error code>" },result 和 confidence 为空,token 和成本均为零。 |
{
"decision_id": "dec_3fKq9ZtW1mXcV7bN2pLa",
"execution_id": "exec_Vn4Kp8Wd2Lq6Tz1Xc9Bs",
"schema": "lead-qualification",
"version": 3,
"result": {},
"confidence": {},
"action": "escalate",
"action_reason": { "type": "engine_error", "code": "ENGINE_TIMEOUT" },
"metrics": {
"latency_ms": 5004,
"engine": "jev",
"model": "jev-1.13.0",
"estimated_cost_usd": 0,
"input_tokens": 0,
"output_tokens": 0
}
}- 这些回答不计费,也不为幂等性而存储:使用相同的
Idempotency-Key重试会再次调用引擎。 - 该运行会被记录为一次状态为错误的执行,并附带引擎的错误码。
- 它只覆盖引擎故障(除
ENGINE_NOT_CONFIGURED之外的ENGINE_*代码)。无效的 state、配额、速率限制和缺失的引擎密钥仍会返回各自的错误。
对于必须始终给出回答的路径——聊天或语音助手、结账流程——请选择 fallback,并选一个在没有回答时也安全的 fallbackAction,通常是 escalate。在编辑器中:引擎与运行时 → 如果引擎出错 → 以 fallback 动作作答。
shadow
影子模式在真实流量上测试另一个引擎,而不改变调用方得到的结果。设置 settings.shadow 后,一部分生产运行——sampleRate,默认 10%,范围 1% 到 100%——会在响应就绪后,于后台在影子引擎上再运行一次:
"settings": {
"engine": "jev",
"shadow": { "engine": "openai", "sampleRate": 0.2 }
}- 仅限生产运行:API、webhook URL 和 MCP 服务器,基于已部署的版本。Playground 运行和 GPT-Live 回答从不进行影子运行;当影子引擎就是作答的引擎时,也不会运行。
- 相同的输入。影子引擎得到的与主引擎完全相同:相同的状态(其中的文件已读取)和相同的问题。
- 响应从不改变。
result、action和目的地都来自主引擎;影子调用没有目的地,请求也不会等待它。 - 不消耗 Dcision 额度。影子运行不计入套餐包含的决策,也不消耗额度。使用你自己的服务商密钥或 OpenAI 密钥时,由服务商向你的账户计费。
- 保存在执行记录中:影子引擎的模型、回答、置信度、延迟和输入 token——或影子调用失败时的错误码。失败的影子调用从不导致运行失败。
影子引擎必须像其他引擎一样在 设置 → 引擎 中设置好;否则它的调用会以 ENGINE_NOT_CONFIGURED 失败,并显示为失败。之后,决策的概览会显示两个引擎一致的频率——参见概览与校准和比较引擎与影子引擎。在编辑器中**:引擎与运行时 → 影子引擎和影子采样 (%)**。与所有设置一样,它在你部署后才会进入生产环境。
工作区设置
应用中的设置包含适用于工作区所有决策的内容。工作区中的每个人都可以打开它;管理员和所有者可以更改它,而危险区域只属于所有者——参见团队、角色与账户。
| 设置 | 谁可以更改 | 说明 |
|---|---|---|
| 名称 | 管理员和所有者 | 工作区名称,2 到 80 个字符。工作区 slug 固定不变。 |
| 执行日志保留期 | 管理员和所有者 | 7、14、30、90、180 或 365 天。你的套餐会对其设上限:日志的保留时间取此值与套餐保留期中较短的那个——参见执行记录与用量。 |
| 引擎 | 管理员和所有者 | 默认引擎——Jev、Laya 或 OpenAI Decisions——以及每个引擎的调用方式:Dcision 的密钥或服务器,或者你自己的服务商密钥、OpenAI 密钥或 Laya 服务器,以及模型。参见引擎与 BYOK。对所有未自行选择引擎的决策,新运行会立即生效。 |
| 组织 | 管理员和所有者 | 法定名称、税号、账单邮箱、国家、地址和网站——会打印在发票上。 |
| 成员 | 管理员管理成员和查看者;所有者管理管理员 | 谁在工作区中以及他们的角色——所有者、管理员、成员或查看者——以及邀请。参见团队、角色与账户。 |
| 目的地 | 管理员和所有者 | 投递的签名密钥,以及目的地使用的工作区密钥。 |
| 危险区域 | 所有者 | 删除工作区。 |