Control de tool calls
Antes de que un agente ejecute una herramienta, decide si ejecutarla, pedir confirmación al usuario o rechazarla —con más confianza exigida para las acciones riesgosas— con la plantilla de control de tool calls.
Objetivo: dejar que tu agente actúe por su cuenta cuando es seguro, y que pregunte antes cuando una llamada equivocada costaría dinero, datos o confianza.
Crea la decisión
Plantillas → Control de tool calls → Crear decisión:
| Parte | Contenido |
|---|---|
| State | user_request, tool, arguments (strings, obligatorios) |
verdict | choice — run, ask_user, reject, other |
risk | score — read-only, low, medium, high |
matches_request | probability — ¿la llamada hace exactamente lo que pidió el usuario? |
| Políticas | reject → block; ask_user → escalate; run y risk ≥ 3 y confianza < 0.9 → escalate; fallback escalate |
| Destinos | run_tool — función runTool en continue; confirm_with_user — respuesta con botones Sí / No en escalate; rejected_reply en block |
Llámala
curl -X POST https://api.dcision.io/v1/decisions/tool-call-gating \
-H "Authorization: Bearer $DCISION_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"state": {
"user_request": "Refund the duplicate charge on my last invoice.",
"tool": "issue_refund",
"arguments": "{\"invoice_id\": \"inv_2291\", \"amount\": 1200, \"currency\": \"BRL\"}"
}
}'{
"schema": "tool-call-gating",
"result": { "verdict": "run", "risk": "high", "matches_request": 0.83 },
"confidence": { "verdict": 0.81 },
"action": "escalate",
"destinations": [
{ "key": "confirm_with_user", "type": "reply", "status": "completed", "text": "Before I continue: should I run issue_refund with these details?", "buttons": ["Yes, go ahead", "No, cancel"] }
]
}Actúa según el resultado
const d = await dcisionDecide("tool-call-gating", { user_request, tool: call.name, arguments: JSON.stringify(call.args) });
if (d.action === "continue") return runTool(call.name, call.args);
const reply = d.destinations.find((x) => x.type === "reply");
return agent.say(reply.text, reply.buttons); // on "Yes", run the tool; the agent never runs it on its ownAjústala
- Describe tus herramientas en
context: cuáles son de solo lectura y cuáles mueven dinero o contactan a personas. - Endurece la tercera regla para las herramientas más riesgosas:
risk≥ 4 y confianza < 0.95. - Dcision nunca obtiene acceso a la herramienta en sí: el destino
functionsolo indica qué función debe llamar tu código.
Reranking de documentos
Puntúa cuánto responde cada documento recuperado a la consulta, ordena los candidatos por un puntaje de rerank de 0 a 1 y descarta los irrelevantes, con la plantilla Reranking de documentos.
Compuerta de confianza de la respuesta
Decide si un borrador de respuesta sale solo (≥ 0.85), va a una cola de revisión (0.4–0.85) o a una persona (< 0.4), con la plantilla Compuerta de confianza de la respuesta.