Контроль вызовов инструментов
Прежде чем агент вызовет инструмент, решите — выполнить, попросить пользователя подтвердить или отказать, требуя большей уверенности для рискованных действий, — с шаблоном «Контроль вызовов инструментов».
Цель: позволить агенту действовать самостоятельно, когда это безопасно, и спрашивать заранее, когда ошибочный вызов будет стоить денег, данных или доверия.
Создайте решение
Шаблоны → Контроль вызовов инструментов → Создать решение:
| Часть | Содержимое |
|---|---|
| State | user_request, tool, arguments (strings, обязательные) |
verdict | choice — run, ask_user, reject, other |
risk | score — read-only, low, medium, high |
matches_request | probability — делает ли вызов ровно то, что просил пользователь? |
| Политики | reject → block; ask_user → escalate; run и risk ≥ 3 и уверенность < 0.9 → escalate; fallback escalate |
| Назначения | run_tool — функция runTool при continue; confirm_with_user — ответ с кнопками Yes / No при escalate; rejected_reply при block |
Вызовите его
curl -X POST https://api.dcision.io/v1/decisions/tool-call-gating \
-H "Authorization: Bearer $DCISION_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"state": {
"user_request": "Refund the duplicate charge on my last invoice.",
"tool": "issue_refund",
"arguments": "{\"invoice_id\": \"inv_2291\", \"amount\": 1200, \"currency\": \"BRL\"}"
}
}'{
"schema": "tool-call-gating",
"result": { "verdict": "run", "risk": "high", "matches_request": 0.83 },
"confidence": { "verdict": 0.81 },
"action": "escalate",
"destinations": [
{ "key": "confirm_with_user", "type": "reply", "status": "completed", "text": "Before I continue: should I run issue_refund with these details?", "buttons": ["Yes, go ahead", "No, cancel"] }
]
}Действуйте по результату
const d = await dcisionDecide("tool-call-gating", { user_request, tool: call.name, arguments: JSON.stringify(call.args) });
if (d.action === "continue") return runTool(call.name, call.args);
const reply = d.destinations.find((x) => x.type === "reply");
return agent.say(reply.text, reply.buttons); // on "Yes", run the tool; the agent never runs it on its ownНастройте его
- Опишите свои инструменты в
context— какие только читают данные, а какие переводят деньги или связываются с людьми. - Ужесточите третье правило для самых рискованных инструментов:
risk≥ 4 и уверенность < 0.95. - Dcision никогда не получает доступа к самому инструменту: назначение
functionлишь сообщает, какую функцию должен вызвать ваш код.
Переранжирование документов
Оцените, насколько каждый найденный документ отвечает на запрос, отсортируйте кандидатов по оценке 0–1 и отбросьте нерелевантные — с шаблоном «Переранжирование документов».
Порог уверенности для ответа
Решите, уходит ли черновик ответа сам (≥ 0.85), попадает в очередь на проверку (0.4–0.85) или к человеку (< 0.4), с помощью шаблона Reply Confidence Gate.