Roteamento por intenção

Classifique cada pedido numa chamada rápida e mande-o ao handler capaz mais barato — código, um LLM especialista ou uma pessoa. Construído sobre o template Customer Service Router.

Nem todo pedido precisa do mesmo handler. Alguns são respondidos por uma consulta ao banco de dados, alguns precisam de um LLM com contexto específico do domínio, alguns precisam de uma pessoa. Coloque a Dcision na frente de todos eles como um classificador rápido e barato: classifique primeiro, depois roteie — e só pague pelo handler caro quando o pedido realmente precisar dele.

Benefícios: custo e velocidade. Guia da TypeSafe: Intent routing.

Por que funciona

  • Uma escolha é um conjunto fechado. A resposta é sempre uma das suas intenções — nunca texto livre para interpretar — com uma probabilidade para cada opção.
  • "Nenhuma destas" é uma resposta. A opção reservada other permite ao engine dizer que um pedido não se encaixa em nenhuma intenção, em vez de forçar a menos errada; a Dcision então devolve a ação de fallback.
  • Uma chamada responde o roteamento e o risco. Pergunte a intenção e a complexidade juntas, em paralelo.
  • A parte cara roda por último. Consultas vão direto para o código, sem nenhum LLM; modelos especialistas recebem só os seus próprios pedidos, com o seu próprio contexto.

Quando usar

Mensagens e tickets recebidos, assistentes de chat e voz, um agente escolhendo a sua primeira ferramenta, qualquer fila em que os pedidos diferem no que precisam — antes de você pagar por uma chamada de LLM.

Como isso se traduz na Dcision

No guia da TypeSafeNa Dcision
Uma escolha para a intençãoUma pergunta de escolha, mais a reservada other
Uma nota para a complexidadeUma pergunta de nota; o seu nível ponderado (scores) pode ser usado em regras
if intent.confidence < 0.5: humanminConfidence na pergunta de intenção, ou uma regra sobre a sua confiança
complaint → humano quando complexo ou incertoRegras que fazem escalate dos casos que uma pessoa precisa ver
handle_order_status(), handle_with_llm(…)O seu código roteia por result.intent quando a ação é continue

Construa

No app

Abra Templates e escolha Roteador de atendimento (roteamento por intenção). Dê à decisão o nome Customer Service Router para que o slug seja customer-service-router e clique em Criar decisão.

O State é Texto: a mensagem do cliente.

Duas perguntas, respondidas na mesma chamada:

PerguntaTipoRespostas
intentchoiceorder_status (respondida por uma consulta ao banco de dados), billing_question, technical_issue, complaint, other
complexityscoresimple, moderate, complex

Em Políticas, escale o que uma pessoa precisa ver:

  1. IF intent · resposta · = · complaint — THEN escalate.
  2. IF intent · resposta · = · technical_issue, + AND complexity · nível ponderado · ≥ · 2.5 — THEN escalate.
  3. IF complexity · confiança · < · 0.5 — THEN escalate: quando a decisão não consegue dizer quão difícil é um pedido, não o automatize.

A ação de fallback é escalate, então other também chega a uma pessoa.

Teste mensagens reais no Playground e depois clique em Publicar v1.

O decision schema

{
  "stateSchema": { "kind": "text" },
  "questions": [
    {
      "key": "intent",
      "type": "choice",
      "instructions": "What is the customer asking for?",
      "options": [
        { "value": "order_status", "description": "where is my order, tracking, delivery date (answered by a database lookup)" },
        { "value": "billing_question", "description": "charges, invoices, refunds, payment methods" },
        { "value": "technical_issue", "description": "the product or app is not working as expected" },
        { "value": "complaint", "description": "dissatisfaction, wants to escalate or talk to a manager" }
      ]
    },
    {
      "key": "complexity",
      "type": "score",
      "instructions": "How complex is it to resolve this request?",
      "scale": ["simple", "moderate", "complex"]
    }
  ],
  "policies": [
    { "field": "intent", "on": "output", "operator": "eq", "value": "complaint", "action": "escalate" },
    {
      "field": "intent",
      "on": "output",
      "operator": "eq",
      "value": "technical_issue",
      "and": [{ "field": "complexity", "on": "score", "operator": "gte", "value": 2.5 }],
      "action": "escalate"
    },
    { "field": "complexity", "on": "confidence", "operator": "lt", "value": 0.5, "action": "escalate" }
  ],
  "settings": { "fallbackAction": "escalate" }
}

Chame

curl -X POST https://api.dcision.io/v1/decisions/customer-service-router \
  -H "Authorization: Bearer $DCISION_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{ "state": "My order #4821 was supposed to arrive yesterday. Can you tell me where it is?" }'
200 OK
{
  "decision_id": "dec_Lr5Tw9Mc2Qx7Hb4Nz1Kg",
  "execution_id": "exec_Fv1Wd6Kp3Zs8Qm2Tx7Lh",
  "schema": "customer-service-router",
  "version": 1,
  "result": { "intent": "order_status", "complexity": "simple" },
  "confidence": { "intent": 0.925, "complexity": 0.76 },
  "scores": { "complexity": 1.16 },
  "action": "continue",
  "action_reason": { "type": "default" },
  "metrics": {
    "latency_ms": 233,
    "engine": "jev",
    "model": "jev-1.13.0",
    "estimated_cost_usd": 0.00000966,
    "input_tokens": 230,
    "output_tokens": 21
  }
}

Nenhuma regra combinou: uma pergunta simples sobre o status de um pedido, que o código consegue responder sem nenhum LLM.

Aja sobre o resultado

type Intent = "order_status" | "billing_question" | "technical_issue" | "complaint" | "other";

async function route(message: Message) {
  const response = await fetch("https://api.dcision.io/v1/decisions/customer-service-router", {
    method: "POST",
    headers: { Authorization: `Bearer ${process.env.DCISION_API_KEY}`, "Content-Type": "application/json" },
    body: JSON.stringify({ state: message.text }),
  });
  if (!response.ok) return humanQueue.add(message); // errors: a person decides

  const decision = await response.json();
  if (decision.action !== "continue") return humanQueue.add(message, { reason: decision.action_reason });

  switch (decision.result.intent as Intent) {
    case "order_status":
      return orders.replyWithTracking(message); // deterministic code, no LLM
    case "billing_question":
      return llm.answer(message, BILLING_SPECIALIST);
    case "technical_issue":
      return llm.answer(message, SUPPORT_SPECIALIST); // complex ones were escalated by rule 1
    default:
      return humanQueue.add(message);
  }
}

Ajuste

  • Condicione a própria intenção. A versão da TypeSafe manda para uma pessoa tudo o que fica abaixo de 0,5 de confiança na intenção: defina "minConfidence": 0.5 em intent para fazer o mesmo.
  • Deixe as fronteiras explícitas. Descreva cada intenção pelo que ela cobre e pelo que não cobre — as descrições de opção aceitam rubricas JSON como { "what": "…", "not_for": "…", "examples": ["…"] }. Veja Perguntas.
  • Confira a ordem das opções. O Jev pode pender para a opção listada primeiro. Reordene as opções no Playground e confira se as respostas continuam as mesmas.
  • Descreva other quando "nenhuma destas" tiver um significado para você — "não é sobre um pedido, uma cobrança ou o app" — para que mensagens fora do assunto cheguem à ação de fallback.
  • Aumente o conjunto conforme aprende. Uma escolha comporta até 254 opções mais other. Acompanhe os motivos other_option em Execuções para descobrir as intenções que estão faltando.
  • Roteie ferramentas do mesmo jeito. O template Agent routing aplica este padrão à primeira ferramenta de um agente de IA.

Relacionados: Roteamento por confiança · Roteamento de suporte · Detecção de spam

Nesta página