Moderación de imágenes
Revisa una foto subida por un usuario antes de publicarla — contenido inapropiado, spam y si coincide con su descripción — y bloquéala o escálala, con la plantilla Moderación de imágenes.
Objetivo: la gente sube fotos con sus anuncios. Dcision mira cada foto antes de publicarla: las imágenes inapropiadas y el spam se bloquean; las no relacionadas y las que no coinciden con su descripción van a un moderador.
Crear la decisión
Plantillas → Moderación de imágenes (imagen) → Crear decisión:
| Parte | Contenido |
|---|---|
| State | photo (imagen, obligatorio), caption (string) |
unsafe | probability — desnudos, violencia, armas, drogas o símbolos de odio; confianza mínima 0.6 |
content | choice — product, spam, unrelated, other |
matches_caption | probability — la foto muestra lo que describe el texto que la acompaña |
| Políticas | unsafe ≥ 0.5 → block; content = spam → block; content = unrelated → escalate; matches_caption < 0.3 → escalate; acción de fallback escalate |
photo es un campo de imagen: PNG, JPEG, GIF o WebP. Ejecuta esta decisión en OpenAI Decisions para que el motor vea la imagen en sí; en Jev o Laya lee una descripción escrita por OpenAI.
Llámala
curl -X POST https://api.dcision.io/v1/decisions/image-moderation \
-H "Authorization: Bearer $DCISION_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"state": {
"photo": {"url":"https://example.com/listing-photo.jpg","filename":"listing-photo.jpg"},
"caption": "Used road bike, size M"
}
}'{
"schema": "image-moderation",
"result": { "unsafe": 0.02, "content": "product", "matches_caption": 0.93 },
"action": "continue",
"action_reason": { "type": "default" },
"metrics": { "engine": "openai", "input_files": 1 }
}Actúa en consecuencia
const decision = await dcisionDecide("image-moderation", { photo: fileFromBytes(upload, upload.name), caption });
if (decision.action === "continue") return publish(listing);
if (decision.action === "block") return reject(listing, decision.action_reason);
return queueForModeration(listing, decision);Ajústala
- Describe tu plataforma en
context: cómo es allí una foto normal. - Añade opciones a
contentpara lo que no permites (marcas de agua, fotos de pantallas). - Sube la confianza mínima de
unsafeen los anuncios públicos; los casos dudosos van a un moderador.
Enrutamiento de notas de voz
Envía la nota de voz de un cliente — WhatsApp, buzón de voz o un fragmento de llamada — al equipo correcto, con urgencia y sentimiento, con la plantilla Enrutamiento de notas de voz.
GPT-Live (voz en tiempo real)
Haz que una sesión de voz de GPT-Live de OpenAI haga las preguntas de una decisión desplegada mientras el usuario habla, y ejecuta las políticas, los destinos y el log de la decisión sobre sus respuestas.