Движки и BYOK
Решения выполняются на Jev, Laya или OpenAI Decisions. Используйте ключ Dcision на TypeSafe, свой ключ OpenRouter, TypeSafe, Vercel AI Gateway или OpenAI либо свой сервер Laya — плюс стоимость, лимиты и ошибки.
Движки
Dcision выполняет решения на трёх движках. Все три — модели решений: они возвращают решения и вероятности вместо сгенерированного текста, и все три отвечают на одни и те же три типа вопросов — choice, score и probability, каждый с распределением вероятностей, которое Dcision превращает в типизированные ответы, уверенность и взвешенные уровни. Jev и Laya используют один и тот же контракт System One; у OpenAI Decisions собственный, и Dcision его транслирует.
| Движок | metrics.engine | Что это | Где работает |
|---|---|---|---|
| Jev (по умолчанию) | "jev" | Модель решений System One от TypeSafe. | TypeSafe, OpenRouter или Vercel AI Gateway — на ключе Dcision или вашем. |
| Laya | "laya" | Открытая модель решений (Apache 2.0) от Convai Innovations, 322M–421M параметров. | Сервер Laya: ваш или Dcision, когда он доступен. См. Laya. |
| OpenAI Decisions | "openai" | Decisions API от OpenAI (gpt-6-luna, публичная бета). | OpenAI, на вашем ключе OpenAI — или на ключе Dcision, когда он доступен. См. OpenAI Decisions. |
Ответы сообщают движок в metrics.engine, а точную модель, которая ответила, — в metrics.model.
Схема решения не зависит от движка: Dcision компилирует её в независимое от движка представление, и только адаптер движка общается с моделью. State, контекст решения и вопросы — текст или структурированный JSON — отправляются в нативных для движка формах, а все вопросы решения уходят одним запросом.
Какой движок выполняет решение
Настройки → Движок задаёт движок по умолчанию рабочего пространства — Jev, пока вы его не смените. Решение может выбрать свой в Движок и выполнение → Движок (settings.engine); без этого оно следует значению по умолчанию. У каждого движка свои учётные данные и модель, поэтому рабочее пространство может выполнять большинство решений на Jev, одно — на Laya, а другое — на OpenAI Decisions.
Jev: кто выполняет вызов движка
Выберите это в Настройки → Движок (Администраторы и Владелец). Выбор сразу применяется ко всем решениям рабочего пространства на Jev — в Playground и в API.
| Вариант | Что происходит |
|---|---|
| Ключ движка Dcision (по умолчанию) | Dcision вызывает TypeSafe (Jev напрямую) своим ключом, включённым в ваш тариф. Выберите модель: по умолчанию jev-1.13.0. Больше ничего настраивать не нужно. |
| Мой ключ провайдера (BYOK) | Dcision вызывает движок с вашим ключом у выбранного вами провайдера и модели. Провайдер выставляет счёт напрямую вашему аккаунту. |
Модели на ключе Dcision
| Модель | Что это |
|---|---|
jev-1.13.0 | Закреплённая (по умолчанию, рекомендуется). Фиксированная версия: ответы — и уверенность — не меняются без вашего ведома. |
jev-latest | Последний стабильный релиз. Меняется, когда TypeSafe выпускает новую версию. |
jev-preview | Предварительные сборки, опережающие jev-latest, когда такая есть. |
Псевдонимы перемещаются, когда TypeSafe выпускает новый релиз, поэтому ответы за ними могут измениться без каких-либо изменений с вашей стороны. metrics.model и журнал выполнений всегда фиксируют точную версию, которая ответила, — jev-1.13.0, даже если вы выбрали jev-latest.
Закрепите версию модели
Пороги вроде minConfidence настраиваются под конкретную модель. Используйте закреплённую jev-1.13.0 для продакшен-решений и переходите на новую версию по своему графику после повторного тестирования в Playground.
Провайдеры
Все три предоставляют один и тот же контракт System One:
| Провайдер | Эндпоинт | Модели | Где получить ключ |
|---|---|---|---|
| OpenRouter | https://openrouter.ai/api/v1/systemone | typesafe/jev-1.13 | openrouter.ai/keys |
| TypeSafe (Jev напрямую) | https://api.typesafe.ai/v1/systemone | jev-1.13.0 (по умолчанию), jev-latest, jev-preview | docs.typesafe.ai |
| Vercel AI Gateway | https://ai-gateway.vercel.sh/typesafe/v1/systemone | typesafe-ai/jev | vercel.com/docs/ai-gateway |
Laya
Laya — открытая модель System One: без цены за токен, и работает там, где вы её запускаете, — ваши данные никогда не покидают ваш сервер. Её сервер laya-serve предоставляет тот же контракт /v1/systemone, что и Jev, поэтому Dcision вызывает его с теми же вопросами.
| Модель | Что это |
|---|---|
auto | По умолчанию. Маршрутизатор Laya выбирает checkpoint по языку входных данных. metrics.model сообщает тот, что ответил, например laya/multilingual. |
english | Английский checkpoint (ModernBERT-large, 421M). Читает до 512 токенов. |
multilingual | 100+ языков (mmBERT, 322M), самый быстрый. Читает до 1 024 токенов. |
typed-decisions | Дообучен для наблюдаемости агентов и процессов клиентского сервиса. Читает до 1 024 токенов. |
Запуск своего сервера Laya
Запустите laya-serve (Python 3.10+) на хосте, доступном для Dcision по публичному HTTPS, за вашим reverse proxy:
pip install "laya[serve]"
LAYA_API_KEY=<a long random secret> LAYA_PRELOAD=1 laya-serve # listens on :8000Проект также поставляет Dockerfile и compose-файлы для CPU и CUDA. GPU отвечает за ~35 мс; CPU — за несколько сотен мс на решение.
В Настройки → Движок → Сервер Laya введите URL сервера (https://laya.example.com — Dcision вызывает на нём /v1/systemone) и LAYA_API_KEY, если вы его задали. Нажмите Сохранить сервер, затем Тест.
Выберите Laya движком по умолчанию — или выберите его в настройках отдельного решения, — выберите модель и нажмите Сохранить настройки движка.
Защитите свой сервер Laya
У laya-serve нет аутентификации, если не задан LAYA_API_KEY. Задайте его, прежде чем открывать сервер наружу, и вставьте его в «Настройки → Движок». Dcision вызывает только публичные адреса https:// — никогда приватные, loopback или адреса облачных метаданных — и не следует редиректам.
Контекст короче, чем у Jev. Laya читает до 512 токенов (english) или 1 024 (multilingual, typed-decisions) state и вопроса; более длинные входные данные сервер обрезает. Для длинных state предпочитайте multilingual или оставайтесь на Jev. Перепроверяйте пороги (minConfidence, диапазоны политик) в Playground при переводе решения на Laya: у каждой модели свой профиль уверенности.
OpenAI Decisions
OpenAI Decisions — API OpenAI для типизированных ответов о входных данных (POST /v1/decisions). Он отвечает на те же три типа вопросов, что и Jev, поэтому решение работает на нём без изменений: Dcision транслирует вопросы и нормализует ответы на те же шкалы.
| Модель | Что это |
|---|---|
gpt-6-luna | По умолчанию и пока единственная модель Decisions API (публичная бета). metrics.model фиксирует точный id, который ответил. |
| Dcision | OpenAI Decisions | Примечания |
|---|---|---|
probability | predicate | Критерии yes/no добавляются к инструкциям. result — вероятность; уверенность — ` |
choice | choice | Варианты становятся choices со своими описаниями, по порядку; зарезервированный вариант other остаётся последним. Уверенность — от OpenAI. |
score | score | Уровни становятся levels (рубрика структурированного уровня — его описание). result — наиболее вероятный уровень, а scores — взвешенный уровень, считая от 1. |
| state | input | Текст как есть; объекты и списки — как JSON-текст. context решения передаётся внутри него, как на Jev. |
Использование своего ключа OpenAI
В Настройки → Движок → Ключ OpenAI вставьте ключ с platform.openai.com/api-keys — достаточно ключа проекта — и нажмите Сохранить ключ, затем Тест.
Выберите OpenAI Decisions движком по умолчанию — или выберите его в настройках отдельного решения — с вариантом Мой ключ OpenAI и нажмите Сохранить настройки движка. Dcision вызывает https://api.openai.com/v1/decisions; счёт выставляет OpenAI вашему аккаунту.
Отказы. OpenAI может отказаться отвечать на вопрос. Запуск всё равно возвращает 200: у вопроса с отказом нет записи в result, остальные вопросы сохраняют свои ответы, а решение выбирает fallback-действие с action_reason: { "type": "refusal", "question": … } — независимо от значения onEngineError, ведь движок всё-таки ответил.
Действуют настройки вашего аккаунта OpenAI. Лимиты запросов, Zero Data Retention, HIPAA и размещение данных определяются проектом OpenAI, которому принадлежит ключ. Перепроверяйте пороги (minConfidence, диапазоны политик) в Playground при переводе решения на OpenAI: у каждой модели свой профиль уверенности.
GPT-Live
GPT-Live, голосовой режим OpenAI в реальном времени, может делегировать типизированные решения OpenAI Decisions, пока пользователь говорит. Dcision экспортирует вопросы опубликованного решения как такое делегирование — GET /v1/decisions/{slug}/openai-live — и выполняет политики, назначения и журнал выполнений решения на ответах сессии — POST /v1/decisions/{slug}/openai-live/answers. Эти вызовы тарифицируются как запуски, с metrics.engine: "openai" и без стоимости движка: за сессию Live платит OpenAI. См. руководство по GPT-Live.
Сравнение и теневой запуск движков
У каждого движка свои ответы и свой профиль уверенности. Два инструмента показывают, как другой движок отвечает на ваше решение, ещё до переключения:
| Инструмент | Что запускает | Стоимость |
|---|---|---|
| Сравнить движки в Playground | State из редактора, сразу на Jev, Laya и OpenAI Decisions. | Три запуска в Playground. |
Теневой режим — settings.shadow | Выборку реальных production-запусков, в фоне ещё и на втором движке. | Без кредитов Dcision. |
Сравнить движки в Playground
Сравнить движки, рядом с Запустить решение, запускает одно и то же state и один и тот же черновик сразу на трёх движках. Это три запуска в Playground, записанные в Выполнениях; назначения никогда не доставляются. Таблица показывает движки рядом: ответ на каждый вопрос с уверенностью, действие, задержку, оценочную стоимость и, если движок дал сбой, код ошибки — ENGINE_NOT_CONFIGURED для движка, который не настроен в рабочем пространстве. Строки, где движки расходятся, выделены.
Теневой режим в production
Задайте settings.shadow — в редакторе Движок и выполнение → Теневой движок и Доля тени (%) — и опубликуйте. Часть запусков решения через API, вебхук и MCP, по умолчанию 10%, выполняется ещё и на теневом движке с точно таким же входом. Вызывающая сторона всегда получает ответ основного движка; теневой ответ сохраняется в выполнении и никогда не запускает назначения.
Теневые запуски не засчитываются во включённые решения и не расходуют кредиты. С вашим собственным ключом провайдера или OpenAI провайдер выставляет за них счёт вашему аккаунту.
В Обзоре решения появляется карточка Теневой режим: как часто оба движка совпадают, в целом и по каждому вопросу, число теневых запусков и сбоев и медианная задержка теневого движка — см. Обзор и калибровка. Когда совпадение высокое на вопросах, от которых зависят ваши политики, переключите settings.engine и перепроверьте пороги вроде minConfidence.
Свой ключ (BYOK)
В Настройки → Движок → Ключи провайдеров вставьте ключ рядом с провайдером и нажмите Сохранить ключ.
Нажмите Тест. Dcision выполняет крошечное пробное решение (шаблон Spam Detection на однострочном сообщении) с вашим ключом и показывает модель и задержку или ошибку провайдера. Проба не записывается как выполнение, но провайдер может её тарифицировать.
Выберите Мой ключ провайдера, провайдера и модель, затем нажмите Сохранить настройки движка. Новые запуски сразу используют их.
Если выбрать Мой ключ провайдера, не сохранив ключ для этого провайдера, каждый запуск завершается ошибкой 424 ENGINE_NOT_CONFIGURED.
Как защищены ключи
- Зашифрованы при хранении с помощью AES-256-GCM; API никогда их не возвращает — показываются только последние 4 символа.
- Никогда не пишутся в журналы и никуда не отправляются, кроме эндпоинта провайдера.
- Добавлять, заменять, тестировать и удалять их могут только Администраторы и Владелец; все остальные в рабочем пространстве видят, у каких провайдеров есть ключ, с его последними 4 символами.
- Удаление ключа стирает его. Для ротации сохраните новый ключ.
Ключи для LLM-назначений
Сохранённые здесь ключи OpenRouter и Vercel AI Gateway также обслуживают LLM-назначения — ответы, которые решение может генерировать для маршрута. Они используются для этих ответов, даже когда движок работает на ключе Dcision, и провайдер выставляет счёт за их токены вашему аккаунту. Ключ движка Dcision никогда не выполняет LLM-назначения.
Ограничения движка
- Бюджет токенов. Jev читает state один раз и оценивает по нему каждый вопрос: около 32 000 токенов на state плюс самый длинный вопрос и 64 000 на state плюс все вопросы. Dcision проверяет оба до вызова и отвечает
422 INVALID_STATE, когда state не помещается, — см. Ограничения. - Пропускная способность. TypeSafe ограничивает каждый аккаунт по запросам и токенам в секунду. На ключе Dcision лимит общий для всех рабочих пространств, поэтому Dcision сглаживает всплески: вызов ждёт свободного слота в пределах своего дедлайна, а не сразу завершается ошибкой. С вашим собственным ключом действуют лимиты аккаунта вашего провайдера — на OpenAI это лимиты вашего проекта OpenAI.
- Изображения, аудио и документы. Все три движка читают текст и JSON. Dcision превращает документы в текст, расшифровывает аудио и — поскольку Jev и Laya не видят изображений — описывает для них изображения текстом; OpenAI Decisions получает изображения как изображения. См. Входные данные.
Стоимость
На Laya стоимость движка — это сервер, который вы содержите: Dcision оценивает вызовы Laya как estimated_cost_usd: 0. Успешный запуск через API всё равно учитывается как тарифицируемое решение.
На OpenAI Decisions цена — US$0.10 за 1M входных токенов (без платы за выходные токены и кэш): решение из 375 входных токенов оценивается в 0.0000375.
На Jev каждый ответ содержит metrics.input_tokens, metrics.output_tokens и metrics.estimated_cost_usd: входные токены вызова, умноженные на цену модели. Jev стоит US$0.042 за 1M входных токенов и не тарифицирует выходные токены — они сообщаются только для наблюдаемости, — поэтому решение из 375 входных токенов оценивается в 0.00001575. Это оценка стоимости движка — полезная для сравнения решений, — а не ваш счёт от Dcision.
Все вопросы решения делят один вызов, поэтому добавление вопроса добавляет в вызов его собственные токены, а не ещё один запрос.
С вашим собственным ключом вызов движка тарифицирует провайдер. При этом вызов всё равно учитывается как тарифицируемое решение на вашем тарифе Dcision, когда он успешно проходит через API.
Ошибки движка
| Код | Статус | Причина |
|---|---|---|
ENGINE_NOT_CONFIGURED | 424 | Для выбранного провайдера не сохранён ключ, для решения на Laya нет сервера Laya, для решения на OpenAI нет ключа OpenAI, или ключ движка Dcision недоступен. |
ENGINE_AUTH_FAILED | 502 | Провайдер отклонил ключ (401/403) или на аккаунте нет кредитов (402, 429 insufficient_quota у OpenAI). Проверьте его в «Настройки → Движок». |
ENGINE_RATE_LIMITED | 503 | Провайдер перегружен или ограничивает частоту запросов (429/503/529), или у общего ключа Dcision не нашлось свободного слота до дедлайна. |
ENGINE_UNAVAILABLE | 503 | Провайдер дал сбой (5xx) или недоступен. |
ENGINE_TIMEOUT | 504 | Нет ответа в пределах timeoutMs решения. |
ENGINE_INVALID_REQUEST | 502 | Провайдер отклонил запрос; сообщение содержит его причину. Также URL сервера Laya, который разрешается в приватный или зарезервированный адрес. |
ENGINE_ERROR | 502 | Движок ответил вне контракта (например, неизвестным вариантом). |
В пределах timeoutMs решения Dcision делает до 2 повторов при сетевых ошибках, ответах 429/503/529 и других 5xx, учитывая Retry-After провайдера, — см. timeoutMs. Неудачные запуски записываются как выполнения со статусом Ошибка и не тарифицируются. С onEngineError: "fallback" каждая ошибка из этой таблицы, кроме ENGINE_NOT_CONFIGURED, становится ответом 200 с fallback-действием решения. См. Ошибки.
Шаблоны
Девятнадцать встроенных шаблонов — что решает каждый, его вопросы, композиты и политики, паттерны, которые он демонстрирует, — и как начать решение с шаблона.
Playground
Тестируйте черновики — включая несохранённые правки — на реальных данных, читайте уверенность и распределения, просматривайте назначения, сравнивайте запуски и движки и повторяйте прошлые входные данные.