Controle de tool calls

Antes de um agente rodar uma ferramenta, decida se ela roda, se o usuário precisa confirmar ou se é recusada — com mais confiança exigida para ações arriscadas — com o template Tool-call Gating.

Objetivo: deixar o seu agente agir sozinho quando é seguro, e perguntar antes quando uma chamada errada custaria dinheiro, dados ou confiança.

Crie a decisão

Templates → Controle de tool calls (com limiar de confiança) → Criar decisão:

ParteConteúdo
Stateuser_request, tool, arguments (strings, obrigatórios)
verdictchoice — run, ask_user, reject, other
riskscore — read-only, low, medium, high
matches_requestprobability — a chamada faz exatamente o que o usuário pediu?
Políticasreject → block; ask_user → escalate; run e risk ≥ 3 e confiança < 0.9 → escalate; fallback escalate
Destinosrun_tool — função runTool em continue; confirm_with_user — resposta com botões Sim / Não em escalate; rejected_reply em block

Chame

curl -X POST https://api.dcision.io/v1/decisions/tool-call-gating \
  -H "Authorization: Bearer $DCISION_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "state": {
      "user_request": "Refund the duplicate charge on my last invoice.",
      "tool": "issue_refund",
      "arguments": "{\"invoice_id\": \"inv_2291\", \"amount\": 1200, \"currency\": \"BRL\"}"
    }
  }'
200 OK (resumida)
{
  "schema": "tool-call-gating",
  "result": { "verdict": "run", "risk": "high", "matches_request": 0.83 },
  "confidence": { "verdict": 0.81 },
  "action": "escalate",
  "destinations": [
    { "key": "confirm_with_user", "type": "reply", "status": "completed", "text": "Before I continue: should I run issue_refund with these details?", "buttons": ["Yes, go ahead", "No, cancel"] }
  ]
}

Aja sobre o resultado

const d = await dcisionDecide("tool-call-gating", { user_request, tool: call.name, arguments: JSON.stringify(call.args) });
if (d.action === "continue") return runTool(call.name, call.args);
const reply = d.destinations.find((x) => x.type === "reply");
return agent.say(reply.text, reply.buttons); // on "Yes", run the tool; the agent never runs it on its own

Ajuste

  • Descreva as suas ferramentas em context — quais são somente leitura e quais movimentam dinheiro ou contatam pessoas.
  • Aperte a terceira regra para as ferramentas mais arriscadas: risk ≥ 4 e confiança < 0.95.
  • A Dcision nunca tem acesso à ferramenta em si: o destino function só diz qual função o seu código deve chamar.

Nesta página