Controle de tool calls
Antes de um agente rodar uma ferramenta, decida se ela roda, se o usuário precisa confirmar ou se é recusada — com mais confiança exigida para ações arriscadas — com o template Tool-call Gating.
Objetivo: deixar o seu agente agir sozinho quando é seguro, e perguntar antes quando uma chamada errada custaria dinheiro, dados ou confiança.
Crie a decisão
Templates → Controle de tool calls (com limiar de confiança) → Criar decisão:
| Parte | Conteúdo |
|---|---|
| State | user_request, tool, arguments (strings, obrigatórios) |
verdict | choice — run, ask_user, reject, other |
risk | score — read-only, low, medium, high |
matches_request | probability — a chamada faz exatamente o que o usuário pediu? |
| Políticas | reject → block; ask_user → escalate; run e risk ≥ 3 e confiança < 0.9 → escalate; fallback escalate |
| Destinos | run_tool — função runTool em continue; confirm_with_user — resposta com botões Sim / Não em escalate; rejected_reply em block |
Chame
curl -X POST https://api.dcision.io/v1/decisions/tool-call-gating \
-H "Authorization: Bearer $DCISION_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"state": {
"user_request": "Refund the duplicate charge on my last invoice.",
"tool": "issue_refund",
"arguments": "{\"invoice_id\": \"inv_2291\", \"amount\": 1200, \"currency\": \"BRL\"}"
}
}'{
"schema": "tool-call-gating",
"result": { "verdict": "run", "risk": "high", "matches_request": 0.83 },
"confidence": { "verdict": 0.81 },
"action": "escalate",
"destinations": [
{ "key": "confirm_with_user", "type": "reply", "status": "completed", "text": "Before I continue: should I run issue_refund with these details?", "buttons": ["Yes, go ahead", "No, cancel"] }
]
}Aja sobre o resultado
const d = await dcisionDecide("tool-call-gating", { user_request, tool: call.name, arguments: JSON.stringify(call.args) });
if (d.action === "continue") return runTool(call.name, call.args);
const reply = d.destinations.find((x) => x.type === "reply");
return agent.say(reply.text, reply.buttons); // on "Yes", run the tool; the agent never runs it on its ownAjuste
- Descreva as suas ferramentas em
context— quais são somente leitura e quais movimentam dinheiro ou contatam pessoas. - Aperte a terceira regra para as ferramentas mais arriscadas:
risk≥ 4 e confiança < 0.95. - A Dcision nunca tem acesso à ferramenta em si: o destino
functionsó diz qual função o seu código deve chamar.
Reranking de documentos
Avalie o quanto cada documento recuperado responde à consulta, ordene os candidatos por um rerank score de 0 a 1 e descarte os irrelevantes, com o template Reranking de documentos.
Gate de confiança da resposta
Decida se um rascunho de resposta sai sozinho (≥ 0,85), vai para uma fila de revisão (0,4–0,85) ou para uma pessoa (< 0,4), com o template Gate de confiança da resposta.