Fan-out especulativo

Faça numa só chamada todas as perguntas de que um fluxo pode precisar — o Jev responde em paralelo — e deixe as regras AND e o seu código decidirem quais respostas importam. Baseado no template de triagem de tickets.

Faça em uma chamada todas as perguntas de que o fluxo pode precisar — o Jev responde em paralelo — e deixe as regras e o seu código decidirem quais respostas importam. Em vez de perguntar primeiro a categoria de um ticket e, numa chamada seguinte, a gravidade do bug, pergunte as duas de uma vez: se o ticket não for um relato de bug, você simplesmente ignora a gravidade.

Benefícios: custo e velocidade. Guia da TypeSafe: Speculative fan-out.

Por que funciona

  • Uma ida e volta. O Jev lê o estado uma vez e avalia cada pergunta sobre ele de forma independente e em paralelo, então perguntas extras acrescentam pouca latência. No cookbook de perguntas em paralelo da TypeSafe, agrupar 13 perguntas numa chamada saiu cerca de 12× mais barato e 10× mais rápido que uma chamada por pergunta, com as mesmas respostas.
  • Uma decisão cobrada. A Dcision cobra por chamada bem-sucedida, não por pergunta: uma decisão com cinco perguntas é uma decisão no seu plano. O custo do engine cresce só com os tokens de entrada das perguntas extras — veja metrics.input_tokens.
  • Nenhum acoplamento escondido. Cada resposta é calculada por si só; a resposta de uma pergunta nunca vira contexto para outra. As suas regras as combinam depois.

Quando usar

Triagens em que os passos seguintes dependem das respostas anteriores — categoria → gravidade do bug → reembolso — e qualquer fluxo que, de outra forma, encadearia chamadas ("se A, então pergunte B"). Uma decisão comporta até 64 perguntas, dentro do orçamento de tokens do Jev: cerca de 32.000 tokens para o estado mais a pergunta mais longa, 64.000 para o estado mais todas as perguntas.

Como isso se traduz na Dcision

No guia da TypeSafeNa Dcision
Todas as perguntas numa requisiçãoTodas as perguntas numa decisão — um POST /v1/decisions/{slug}
Perguntas especulativasPerguntas que só importam em alguns ramos, como bug_severity
if category == "bug_report" and severity > … no seu códigoUma regra com condições and: category = bug_report AND bug_severity ≥ 4 → escalate
frustration.score > 1.5 (níveis contados a partir de 0)Uma regra sobre o nível ponderado: frustration (nível ponderado) ≥ 3.5 → escalate (níveis contados a partir de 1)

As regras guardam o roteamento que precisa ser consistente e auditável; o seu código continua lendo todas as respostas em result.

Monte

No app

Abra Templates, encontre Triagem de tickets de suporte (fan-out) — em Todos os templates, ou em Experimente no card Fan-out especulativo — e escolha-o. Em Dê um nome, chame a decisão de Ticket Triage: o slug, o seu endpoint, vem do nome e vira ticket-triage. (O nome completo do template daria support-ticket-triage-fan-out; você também pode editar o slug no editor até o primeiro deploy.) Clique em Criar decisão.

O State é um objeto JSON com subject (string) e body (string, obrigatório).

As Perguntas são a árvore de decisão inteira de uma vez:

PerguntaTipoRespostasImporta quando
categorychoicebug_report, billing, feature_request, how_to, othersempre
bug_severityscorecosmetic, minor, major, criticalrelatos de bug (especulativa)
has_reproducible_stepsprobabilityo ticket inclui passos para reproduzir o problemarelatos de bug (especulativa)
refund_requestedprobabilityo cliente pede explicitamente um reembolso ou créditocobrança (especulativa)
frustrationscorecalm, annoyed, frustrated, very angrysempre

O nível critical é um nível estruturado — { "label": "critical", "rubric": "outage, data loss, security issue or money at risk" } — então o engine lê a rubrica enquanto a API devolve o rótulo critical.

Em Políticas, cada regra se lê IF condição [AND condição…] THEN ação:

  1. IF category · resposta · = · bug_report, depois + AND bug_severity · resposta · ≥ · 4 · critical — THEN escalate.
  2. IF refund_requested · resposta · ≥ · 0.8 — THEN escalate.
  3. IF frustration · nível ponderado · ≥ · 3.5 — THEN escalate.

A ação de fallback continua escalate, então um ticket que não se encaixa em nenhuma categoria (other) também chega a uma pessoa.

Rode o ticket de exemplo no Playground, confira as respostas e a ação e então clique em Publicar v1. O painel Padrões do editor agora marca Fan-out especulativo e Roteamento por intenção como em uso.

O decision schema

As perguntas e regras, como a visão Schema da decisão do editor as mostra (a opção reservada other é adicionada a category automaticamente):

{
  "questions": [
    {
      "key": "category",
      "type": "choice",
      "instructions": "What kind of support ticket is this?",
      "options": [
        { "value": "bug_report", "description": "something in the product is broken or behaves incorrectly" },
        { "value": "billing", "description": "charges, invoices, refunds, plans, payment methods" },
        { "value": "feature_request", "description": "asks for something the product doesn't do yet" },
        { "value": "how_to", "description": "asks how to do something that already works" }
      ]
    },
    {
      "key": "bug_severity",
      "type": "score",
      "instructions": "If this describes a bug, how severe is it for the customer?",
      "scale": ["cosmetic", "minor", "major", { "label": "critical", "rubric": "outage, data loss, security issue or money at risk" }]
    },
    { "key": "has_reproducible_steps", "type": "probability", "instructions": "Does the ticket include steps to reproduce the problem?" },
    { "key": "refund_requested", "type": "probability", "instructions": "Does the customer explicitly ask for a refund or credit?" },
    { "key": "frustration", "type": "score", "instructions": "How frustrated is the customer?", "scale": ["calm", "annoyed", "frustrated", "very angry"] }
  ],
  "policies": [
    {
      "field": "category",
      "on": "output",
      "operator": "eq",
      "value": "bug_report",
      "and": [{ "field": "bug_severity", "on": "output", "operator": "gte", "value": 4 }],
      "action": "escalate"
    },
    { "field": "refund_requested", "on": "output", "operator": "gte", "value": 0.8, "action": "escalate" },
    { "field": "frustration", "on": "score", "operator": "gte", "value": 3.5, "action": "escalate" }
  ],
  "settings": { "fallbackAction": "escalate" }
}

Com a CLI, dcision init triage.json --template ticket-triage grava o schema completo num arquivo.

Chame

curl -X POST https://api.dcision.io/v1/decisions/ticket-triage \
  -H "Authorization: Bearer $DCISION_API_KEY" \
  -H "Content-Type: application/json" \
  -H "Idempotency-Key: ticket-90412" \
  -d '{
    "state": {
      "subject": "Payouts failing",
      "body": "Our payouts have been failing for 3 days and customers are complaining. Steps: open Payouts, click Retry, error 500. Please fix ASAP."
    }
  }'
200 OK
{
  "decision_id": "dec_Tq4Wm8Lz2Xv6Rk1Np9Cs",
  "execution_id": "exec_Jd7Hs2Qa5Wn8Lx3Kv1Mz",
  "schema": "ticket-triage",
  "version": 1,
  "result": {
    "category": "bug_report",
    "bug_severity": "critical",
    "has_reproducible_steps": 0.91,
    "refund_requested": 0.04,
    "frustration": "frustrated"
  },
  "confidence": {
    "category": 0.9125,
    "bug_severity": 0.56,
    "has_reproducible_steps": 0.82,
    "refund_requested": 0.92,
    "frustration": 0.59
  },
  "scores": { "bug_severity": 3.56, "frustration": 2.97 },
  "action": "escalate",
  "action_reason": { "type": "policy", "rule": 0 },
  "metrics": {
    "latency_ms": 368,
    "engine": "jev",
    "model": "jev-1.13.0",
    "estimated_cost_usd": 0.00002184,
    "input_tokens": 520,
    "output_tokens": 58
  }
}

Cinco respostas numa chamada. A regra 0 casou: o ticket é um bug_report e a gravidade mais provável é critical (nível 4). scores traz o nível ponderado de cada pergunta score — bug_severity está em 3,56, entre major e critical.

Aja sobre o resultado

As regras decidiram se uma pessoa precisa olhar agora; o seu código lê as respostas especulativas só no ramo em que elas importam:

const decision = await response.json();
const { result } = decision;

if (decision.action === "escalate") {
  return onCall.page(ticket, { reason: decision.action_reason, executionId: decision.execution_id });
}

switch (result.category) {
  case "bug_report":
    return result.has_reproducible_steps >= 0.6
      ? engineering.triage(ticket, { severity: result.bug_severity })
      : bugBacklog.add(ticket, { severity: result.bug_severity });
  case "billing":
    return billing.assign(ticket, { refundLikely: result.refund_requested >= 0.7 });
  case "feature_request":
    return roadmap.log(ticket);
  case "how_to":
    return autoReply.withDocs(ticket);
}

frustration é útil em todos os ramos — por exemplo, aumente a prioridade quando decision.scores.frustration for 3 ou mais, mesmo abaixo do limiar de escalonamento.

Ajuste

  • Adicione perguntas especulativas à vontade. Cada uma custa os seus tokens de entrada, não uma ida e volta. Fique dentro de 64 perguntas e do orçamento de tokens.
  • Mantenha cada pergunta atômica. Um julgamento por pergunta, lido literalmente — veja Escrevendo boas perguntas.
  • Condicione com and, não com instruções mais longas. "If this describes a bug, how severe…" continua uma pergunta simples; a regra decide quando a resposta conta.
  • Use limiares entre níveis com on: "score": frustration ≥ 3.5 dispara quando o peso fica entre frustration e very angry, não só quando very angry vence.
  • Ordene as regras do específico para o geral: a primeira que casar vence.
  • Envie só o ticket. Threads longas e campos não relacionados diluem a precisão e gastam o orçamento de tokens — filtre-os no seu código.

Relacionados: Políticas e ações · Perguntas · Roteamento de suporte

Nesta página