模式概览

TypeSafe 的四种架构模式——推测式扇出、置信度把关路由、复合评分和意图路由——以及每种模式如何对应到 Dcision 的功能和模板。

Jev 能快速回答简短、字面意义明确的问题。好的系统会把许多这样的问题组合起来。TypeSafe 记录了四种做好这件事的架构模式,而 Dcision 把每一种都变成了决策 schema 的一等功能——并为每种模式提供一个端到端实现它的模板。

模式作用好处在 Dcision 中模板
推测式扇出在一次调用中提出流程可能需要的所有问题,再由规则决定哪些回答起作用。成本、速度所有问题放在一个决策中;and 条件为推测性回答把关。ticket-triage
置信度把关路由把置信度作为第二个维度:回答说明“是什么”,置信度说明“是否据此行动”。可靠性、安全性每个问题的 minConfidence 以及 on: "confidence" 规则,每个行动一个阈值。voice-banking
复合评分把一个判断拆分为原子分数,再用你控制的权重进行组合。成本、可靠性、速度每个维度一个问题,加上可在规则中使用的复合指标。resume-screening
意图路由用一次快速调用对每个请求进行分类,并将其发送给成本最低且有能力的处理方。成本、速度用一个 choice 表示意图(带保留的 other),为必须由人工查看的情况设置规则。customer-service-router

为什么需要模式

每个决策都是一次引擎调用:Jev 只读取一次 state,并行回答所有问题,因此增加问题几乎不影响延迟,而且无论有多少问题,Dcision 每次调用只按一个决策计费。这些模式正是利用了这一点,以及每个回答都带有经过校准的概率这一事实:

  • 多问,而不是常问——扇出在一次往返中回答整棵决策树。
  • 只在足够有把握时行动——置信度把关路由根据每个行动的风险调整所需的置信度。
  • 把计算留在模型之外——复合评分用存储在决策中的权重组合原子回答。
  • 最后才动用昂贵的资源——意图路由把查询交给代码,把疑难情况交给专业 LLM,其余交给人工。

构建模块

功能适用于
每个决策最多 64 个问题,在一次调用中回答扇出、复合评分、意图路由
策略规则最多带 5 个 and 条件,首个匹配生效扇出、置信度把关路由、意图路由
每个问题的 minConfidence 以及基于 confidence 的规则置信度把关路由
score 问题的加权等级(scores、on: "score" 规则)扇出、意图路由
复合指标,在 composites 中返回,并可在规则中使用复合评分
保留的 other 选项和 fallback 行动意图路由、置信度把关路由
onEngineError: "fallback"——引擎出错时的安全行动任何必须始终给出回答的路径上的每种模式

参见决策 schema、策略与行动和决策设置。

应用中的模式

  • 模板页面以模式部分开头:每种模式一张卡片,说明它是什么、何时使用、如何在 Dcision 中构建、它的好处,并链接到实现它的模板和 TypeSafe 的指南。其下方的所有模板以徽章形式显示每个模板的模式。
  • 新建决策会在每个模板的问题数量旁列出其模式。
  • 编辑器的模式面板位于编辑器标签页中决策 schema 的下方,显示该决策使用了四种模式中的几种。每个条目展开后会解释该模式,并显示此决策如何使用它(此处)或如何采用它(试试)。

该面板根据 schema 检测模式:

模式当决策具有以下内容时被检测到…
推测式扇出4 个或更多问题,或 3 个或更多问题且有一条规则的条件使用了不同字段
置信度把关路由一个设置了最低置信度的问题,或一条基于 confidence 的规则
复合评分至少一个复合指标
意图路由一个除 other 外至少有 3 个选项的 choice 问题,或一条基于 choice 回答的规则

模式可以组合

大多数生产环境中的决策会使用不止一种模式。线索资格评估模板把线索路由给某个团队(意图路由),在 purchase_intent 不够有把握时升级(置信度把关路由),并用 lead_score 为线索排序(复合评分)——全部在一次调用中完成。模板列出了每个模板的模式。

编写引擎能够回答的问题

模式负责组合回答;但每个回答本身仍然必须是好的。让问题保持原子化、字面化,把计算和日期留在代码中,并且只发送问题所需的 state——参见编写好问题。

本页内容