Respuestas de LLM
Deja que un modelo responda por una ruta — Dcision llama a OpenRouter o a Vercel AI Gateway con la clave de tu workspace, el prompt de la ruta como mensaje de sistema y el estado como entrada.
Un destino LLM genera la respuesta para una ruta. Cuando se dispara, Dcision envía una solicitud de chat al modelo que elegiste —el prompt de la ruta como mensaje system, el estado (o una plantilla de tu elección) como mensaje user— y devuelve el texto del modelo en la respuesta.
Así es como una misma decisión puede enrutar y responder: Jev decide que un mensaje trata sobre facturación, y el prompt de facturación escribe la respuesta.
Tu clave, tu proveedor
Las respuestas de LLM se ejecutan con tu propia clave de proveedor, nunca con la clave del motor de Dcision:
provider | Llama a | Clave |
|---|---|---|
openrouter (predeterminado) | POST https://openrouter.ai/api/v1/chat/completions | Tu clave de OpenRouter |
vercel | POST https://ai-gateway.vercel.sh/v1/chat/completions | Tu clave de Vercel AI Gateway |
Guarda la clave en Configuración → Motor → Claves de proveedores: las mismas claves que se usan para traer tu propia clave para Jev; los Administradores y el Propietario pueden agregarlas. Guardar una clave no cambia el motor: las decisiones pueden seguir ejecutándose con la clave del motor de Dcision mientras sus destinos LLM usan la tuya. El proveedor factura los tokens a tu cuenta; Dcision no los cobra, y la decisión en sí se factura como siempre.
Configúralo
{
"key": "sales_llm",
"type": "llm",
"when": { "conditions": [{ "field": "route", "on": "output", "operator": "eq", "value": "sales" }] },
"llm": {
"provider": "openrouter",
"model": "openai/gpt-5-mini",
"instructions": "You are Acme's sales team. Answer the lead in two sentences, say that a person will follow up today and never quote prices.",
"input": "{{state.message}}",
"maxTokens": 300,
"temperature": 0.3,
"timeoutMs": 15000
}
}| Campo | Tipo | Predeterminado | Descripción |
|---|---|---|---|
provider | string | openrouter | openrouter o vercel. |
model | string | — | El ID del modelo del proveedor, como openai/gpt-5-mini: letras, dígitos y . _ : / -, hasta 120 caracteres. El editor sugiere algunos. |
instructions | string | — | El prompt de la ruta, enviado como mensaje de sistema: de 1 a 8,000 caracteres, con variables. |
input | string | todo el estado | El mensaje del usuario: hasta 8,000 caracteres, con variables. Si está vacío, envía el estado como texto: un string tal cual, un objeto o una lista como JSON. |
maxTokens | integer | 512 | De 16 a 2,048. |
temperature | number | 0.3 | De 0 a 2. |
timeoutMs | integer | 20000 | De 1,000 a 25,000: cuánto espera Dcision al modelo. |
Los prompts y las entradas usan la codificación de texto; no se pueden usar secretos en ellos.
En la respuesta
{
"key": "sales_llm",
"type": "llm",
"status": "completed",
"text": "Thanks for reaching out! Someone from our sales team will contact you today to talk about your 500 users.",
"model": "openai/gpt-5-mini",
"usage": { "input_tokens": 61, "output_tokens": 27 }
}model es el modelo que informa el proveedor, y usage los tokens que contó: los números del proveedor, separados de las propias metrics de la decisión.
Cuando la llamada no se puede hacer o falla, la entrada lo indica y la decisión responde igualmente:
{ "key": "sales_llm", "type": "llm", "status": "failed", "error": "Add your OpenRouter key in Settings → Engine to use LLM replies." }error | Causa |
|---|---|
| Add your OpenRouter key in Settings → Engine to use LLM replies. | No hay ninguna clave guardada para el proveedor (el mensaje lo nombra). |
| OpenRouter answered 401: … | El proveedor rechazó la solicitud; a continuación viene su propio mensaje. |
| OpenRouter returned an empty answer. | No hay texto en la respuesta del proveedor. |
| No answer from OpenRouter within 15 s. | Se agotó timeoutMs. |
| Couldn't reach OpenRouter. | Un error de red. |
Las llamadas a LLM se hacen una sola vez —no se reintentan— y los fallos aparecen en el Resumen de la decisión como destinos fallidos.
Latencia
Quien llama espera las respuestas de LLM: se ejecutan después de la decisión, en paralelo con los demás destinos que se esperan (agentes en modo sync), así que la respuesta llega después del más lento de ellos. Una decisión puede hacer como máximo 3 llamadas de este tipo por ejecución; las demás se omiten con "reason": "limit".
Dale a tu cliente HTTP un timeout que cubra el timeoutMs de la decisión más el timeoutMs del destino más largo; por ejemplo, 5 s + 15 s + un margen. Los SDKs esperan 30 segundos por intento de forma predeterminada. El metrics.latency_ms de la respuesta mide solo la decisión: no incluye el tiempo dedicado a estas llamadas.
En el Playground
Las vistas previas muestran el prompt —proveedor, modelo, las instrucciones y el mensaje renderizados— sin llamar al modelo. Activa Ejecutar los destinos de verdad para obtener una respuesta real; consulta Probar destinos.
Datos
La entrada —todo el estado, salvo que definas input— se envía al proveedor que elegiste, bajo tu cuenta y sus términos. Envía solo lo que la respuesta necesita: "input": "{{state.message}}" en lugar de todo el estado.
Salida estructurada
Devuelve un objeto JSON que tu sistema puede usar tal cual, o una pantalla que tu app renderiza — construido a partir del resultado (sin modelo) o por un LLM, siempre validado antes de salir de Dcision.
Agentes
Entrega un resultado a tu propio endpoint de agente con las instrucciones y herramientas de la ruta — espera su respuesta en la respuesta, o delega en segundo plano con reintentos.