Движки и BYOK

Решения выполняются на Jev, Laya или OpenAI Decisions. Используйте ключ Dcision на TypeSafe, свой ключ OpenRouter, TypeSafe, Vercel AI Gateway или OpenAI либо свой сервер Laya — плюс стоимость, лимиты и ошибки.

Движки

Dcision выполняет решения на трёх движках. Все три — модели решений: они возвращают решения и вероятности вместо сгенерированного текста, и все три отвечают на одни и те же три типа вопросов — choice, score и probability, каждый с распределением вероятностей, которое Dcision превращает в типизированные ответы, уверенность и взвешенные уровни. Jev и Laya используют один и тот же контракт System One; у OpenAI Decisions собственный, и Dcision его транслирует.

Движокmetrics.engineЧто этоГде работает
Jev (по умолчанию)"jev"Модель решений System One от TypeSafe.TypeSafe, OpenRouter или Vercel AI Gateway — на ключе Dcision или вашем.
Laya"laya"Открытая модель решений (Apache 2.0) от Convai Innovations, 322M–421M параметров.Сервер Laya: ваш или Dcision, когда он доступен. См. Laya.
OpenAI Decisions"openai"Decisions API от OpenAI (gpt-6-luna, публичная бета).OpenAI, на вашем ключе OpenAI — или на ключе Dcision, когда он доступен. См. OpenAI Decisions.

Ответы сообщают движок в metrics.engine, а точную модель, которая ответила, — в metrics.model.

Схема решения не зависит от движка: Dcision компилирует её в независимое от движка представление, и только адаптер движка общается с моделью. State, контекст решения и вопросы — текст или структурированный JSON — отправляются в нативных для движка формах, а все вопросы решения уходят одним запросом.

Какой движок выполняет решение

Настройки → Движок задаёт движок по умолчанию рабочего пространства — Jev, пока вы его не смените. Решение может выбрать свой в Движок и выполнение → Движок (settings.engine); без этого оно следует значению по умолчанию. У каждого движка свои учётные данные и модель, поэтому рабочее пространство может выполнять большинство решений на Jev, одно — на Laya, а другое — на OpenAI Decisions.

Jev: кто выполняет вызов движка

Выберите это в Настройки → Движок (Администраторы и Владелец). Выбор сразу применяется ко всем решениям рабочего пространства на Jev — в Playground и в API.

ВариантЧто происходит
Ключ движка Dcision (по умолчанию)Dcision вызывает TypeSafe (Jev напрямую) своим ключом, включённым в ваш тариф. Выберите модель: по умолчанию jev-1.13.0. Больше ничего настраивать не нужно.
Мой ключ провайдера (BYOK)Dcision вызывает движок с вашим ключом у выбранного вами провайдера и модели. Провайдер выставляет счёт напрямую вашему аккаунту.

Модели на ключе Dcision

МодельЧто это
jev-1.13.0Закреплённая (по умолчанию, рекомендуется). Фиксированная версия: ответы — и уверенность — не меняются без вашего ведома.
jev-latestПоследний стабильный релиз. Меняется, когда TypeSafe выпускает новую версию.
jev-previewПредварительные сборки, опережающие jev-latest, когда такая есть.

Псевдонимы перемещаются, когда TypeSafe выпускает новый релиз, поэтому ответы за ними могут измениться без каких-либо изменений с вашей стороны. metrics.model и журнал выполнений всегда фиксируют точную версию, которая ответила, — jev-1.13.0, даже если вы выбрали jev-latest.

Закрепите версию модели

Пороги вроде minConfidence настраиваются под конкретную модель. Используйте закреплённую jev-1.13.0 для продакшен-решений и переходите на новую версию по своему графику после повторного тестирования в Playground.

Провайдеры

Все три предоставляют один и тот же контракт System One:

ПровайдерЭндпоинтМоделиГде получить ключ
OpenRouterhttps://openrouter.ai/api/v1/systemonetypesafe/jev-1.13openrouter.ai/keys
TypeSafe (Jev напрямую)https://api.typesafe.ai/v1/systemonejev-1.13.0 (по умолчанию), jev-latest, jev-previewdocs.typesafe.ai
Vercel AI Gatewayhttps://ai-gateway.vercel.sh/typesafe/v1/systemonetypesafe-ai/jevvercel.com/docs/ai-gateway

Laya

Laya — открытая модель System One: без цены за токен, и работает там, где вы её запускаете, — ваши данные никогда не покидают ваш сервер. Её сервер laya-serve предоставляет тот же контракт /v1/systemone, что и Jev, поэтому Dcision вызывает его с теми же вопросами.

МодельЧто это
autoПо умолчанию. Маршрутизатор Laya выбирает checkpoint по языку входных данных. metrics.model сообщает тот, что ответил, например laya/multilingual.
englishАнглийский checkpoint (ModernBERT-large, 421M). Читает до 512 токенов.
multilingual100+ языков (mmBERT, 322M), самый быстрый. Читает до 1 024 токенов.
typed-decisionsДообучен для наблюдаемости агентов и процессов клиентского сервиса. Читает до 1 024 токенов.

Запуск своего сервера Laya

Запустите laya-serve (Python 3.10+) на хосте, доступном для Dcision по публичному HTTPS, за вашим reverse proxy:

pip install "laya[serve]"
LAYA_API_KEY=<a long random secret> LAYA_PRELOAD=1 laya-serve   # listens on :8000

Проект также поставляет Dockerfile и compose-файлы для CPU и CUDA. GPU отвечает за ~35 мс; CPU — за несколько сотен мс на решение.

В Настройки → Движок → Сервер Laya введите URL сервера (https://laya.example.com — Dcision вызывает на нём /v1/systemone) и LAYA_API_KEY, если вы его задали. Нажмите Сохранить сервер, затем Тест.

Выберите Laya движком по умолчанию — или выберите его в настройках отдельного решения, — выберите модель и нажмите Сохранить настройки движка.

Защитите свой сервер Laya

У laya-serve нет аутентификации, если не задан LAYA_API_KEY. Задайте его, прежде чем открывать сервер наружу, и вставьте его в «Настройки → Движок». Dcision вызывает только публичные адреса https:// — никогда приватные, loopback или адреса облачных метаданных — и не следует редиректам.

Контекст короче, чем у Jev. Laya читает до 512 токенов (english) или 1 024 (multilingual, typed-decisions) state и вопроса; более длинные входные данные сервер обрезает. Для длинных state предпочитайте multilingual или оставайтесь на Jev. Перепроверяйте пороги (minConfidence, диапазоны политик) в Playground при переводе решения на Laya: у каждой модели свой профиль уверенности.

OpenAI Decisions

OpenAI Decisions — API OpenAI для типизированных ответов о входных данных (POST /v1/decisions). Он отвечает на те же три типа вопросов, что и Jev, поэтому решение работает на нём без изменений: Dcision транслирует вопросы и нормализует ответы на те же шкалы.

МодельЧто это
gpt-6-lunaПо умолчанию и пока единственная модель Decisions API (публичная бета). metrics.model фиксирует точный id, который ответил.
DcisionOpenAI DecisionsПримечания
probabilitypredicateКритерии yes/no добавляются к инструкциям. result — вероятность; уверенность — `
choicechoiceВарианты становятся choices со своими описаниями, по порядку; зарезервированный вариант other остаётся последним. Уверенность — от OpenAI.
scorescoreУровни становятся levels (рубрика структурированного уровня — его описание). result — наиболее вероятный уровень, а scores — взвешенный уровень, считая от 1.
stateinputТекст как есть; объекты и списки — как JSON-текст. context решения передаётся внутри него, как на Jev.

Использование своего ключа OpenAI

В Настройки → Движок → Ключ OpenAI вставьте ключ с platform.openai.com/api-keys — достаточно ключа проекта — и нажмите Сохранить ключ, затем Тест.

Выберите OpenAI Decisions движком по умолчанию — или выберите его в настройках отдельного решения — с вариантом Мой ключ OpenAI и нажмите Сохранить настройки движка. Dcision вызывает https://api.openai.com/v1/decisions; счёт выставляет OpenAI вашему аккаунту.

Отказы. OpenAI может отказаться отвечать на вопрос. Запуск всё равно возвращает 200: у вопроса с отказом нет записи в result, остальные вопросы сохраняют свои ответы, а решение выбирает fallback-действие с action_reason: { "type": "refusal", "question": … } — независимо от значения onEngineError, ведь движок всё-таки ответил.

Действуют настройки вашего аккаунта OpenAI. Лимиты запросов, Zero Data Retention, HIPAA и размещение данных определяются проектом OpenAI, которому принадлежит ключ. Перепроверяйте пороги (minConfidence, диапазоны политик) в Playground при переводе решения на OpenAI: у каждой модели свой профиль уверенности.

GPT-Live

GPT-Live, голосовой режим OpenAI в реальном времени, может делегировать типизированные решения OpenAI Decisions, пока пользователь говорит. Dcision экспортирует вопросы опубликованного решения как такое делегирование — GET /v1/decisions/{slug}/openai-live — и выполняет политики, назначения и журнал выполнений решения на ответах сессии — POST /v1/decisions/{slug}/openai-live/answers. Эти вызовы тарифицируются как запуски, с metrics.engine: "openai" и без стоимости движка: за сессию Live платит OpenAI. См. руководство по GPT-Live.

Сравнение и теневой запуск движков

У каждого движка свои ответы и свой профиль уверенности. Два инструмента показывают, как другой движок отвечает на ваше решение, ещё до переключения:

ИнструментЧто запускаетСтоимость
Сравнить движки в PlaygroundState из редактора, сразу на Jev, Laya и OpenAI Decisions.Три запуска в Playground.
Теневой режим — settings.shadowВыборку реальных production-запусков, в фоне ещё и на втором движке.Без кредитов Dcision.

Сравнить движки в Playground

Сравнить движки, рядом с Запустить решение, запускает одно и то же state и один и тот же черновик сразу на трёх движках. Это три запуска в Playground, записанные в Выполнениях; назначения никогда не доставляются. Таблица показывает движки рядом: ответ на каждый вопрос с уверенностью, действие, задержку, оценочную стоимость и, если движок дал сбой, код ошибки — ENGINE_NOT_CONFIGURED для движка, который не настроен в рабочем пространстве. Строки, где движки расходятся, выделены.

Теневой режим в production

Задайте settings.shadow — в редакторе Движок и выполнение → Теневой движок и Доля тени (%) — и опубликуйте. Часть запусков решения через API, вебхук и MCP, по умолчанию 10%, выполняется ещё и на теневом движке с точно таким же входом. Вызывающая сторона всегда получает ответ основного движка; теневой ответ сохраняется в выполнении и никогда не запускает назначения.

Теневые запуски не засчитываются во включённые решения и не расходуют кредиты. С вашим собственным ключом провайдера или OpenAI провайдер выставляет за них счёт вашему аккаунту.

В Обзоре решения появляется карточка Теневой режим: как часто оба движка совпадают, в целом и по каждому вопросу, число теневых запусков и сбоев и медианная задержка теневого движка — см. Обзор и калибровка. Когда совпадение высокое на вопросах, от которых зависят ваши политики, переключите settings.engine и перепроверьте пороги вроде minConfidence.

Свой ключ (BYOK)

В Настройки → Движок → Ключи провайдеров вставьте ключ рядом с провайдером и нажмите Сохранить ключ.

Нажмите Тест. Dcision выполняет крошечное пробное решение (шаблон Spam Detection на однострочном сообщении) с вашим ключом и показывает модель и задержку или ошибку провайдера. Проба не записывается как выполнение, но провайдер может её тарифицировать.

Выберите Мой ключ провайдера, провайдера и модель, затем нажмите Сохранить настройки движка. Новые запуски сразу используют их.

Если выбрать Мой ключ провайдера, не сохранив ключ для этого провайдера, каждый запуск завершается ошибкой 424 ENGINE_NOT_CONFIGURED.

Как защищены ключи

  • Зашифрованы при хранении с помощью AES-256-GCM; API никогда их не возвращает — показываются только последние 4 символа.
  • Никогда не пишутся в журналы и никуда не отправляются, кроме эндпоинта провайдера.
  • Добавлять, заменять, тестировать и удалять их могут только Администраторы и Владелец; все остальные в рабочем пространстве видят, у каких провайдеров есть ключ, с его последними 4 символами.
  • Удаление ключа стирает его. Для ротации сохраните новый ключ.

Ключи для LLM-назначений

Сохранённые здесь ключи OpenRouter и Vercel AI Gateway также обслуживают LLM-назначения — ответы, которые решение может генерировать для маршрута. Они используются для этих ответов, даже когда движок работает на ключе Dcision, и провайдер выставляет счёт за их токены вашему аккаунту. Ключ движка Dcision никогда не выполняет LLM-назначения.

Ограничения движка

  • Бюджет токенов. Jev читает state один раз и оценивает по нему каждый вопрос: около 32 000 токенов на state плюс самый длинный вопрос и 64 000 на state плюс все вопросы. Dcision проверяет оба до вызова и отвечает 422 INVALID_STATE, когда state не помещается, — см. Ограничения.
  • Пропускная способность. TypeSafe ограничивает каждый аккаунт по запросам и токенам в секунду. На ключе Dcision лимит общий для всех рабочих пространств, поэтому Dcision сглаживает всплески: вызов ждёт свободного слота в пределах своего дедлайна, а не сразу завершается ошибкой. С вашим собственным ключом действуют лимиты аккаунта вашего провайдера — на OpenAI это лимиты вашего проекта OpenAI.
  • Изображения, аудио и документы. Все три движка читают текст и JSON. Dcision превращает документы в текст, расшифровывает аудио и — поскольку Jev и Laya не видят изображений — описывает для них изображения текстом; OpenAI Decisions получает изображения как изображения. См. Входные данные.

Стоимость

На Laya стоимость движка — это сервер, который вы содержите: Dcision оценивает вызовы Laya как estimated_cost_usd: 0. Успешный запуск через API всё равно учитывается как тарифицируемое решение.

На OpenAI Decisions цена — US$0.10 за 1M входных токенов (без платы за выходные токены и кэш): решение из 375 входных токенов оценивается в 0.0000375.

На Jev каждый ответ содержит metrics.input_tokens, metrics.output_tokens и metrics.estimated_cost_usd: входные токены вызова, умноженные на цену модели. Jev стоит US$0.042 за 1M входных токенов и не тарифицирует выходные токены — они сообщаются только для наблюдаемости, — поэтому решение из 375 входных токенов оценивается в 0.00001575. Это оценка стоимости движка — полезная для сравнения решений, — а не ваш счёт от Dcision.

Все вопросы решения делят один вызов, поэтому добавление вопроса добавляет в вызов его собственные токены, а не ещё один запрос.

С вашим собственным ключом вызов движка тарифицирует провайдер. При этом вызов всё равно учитывается как тарифицируемое решение на вашем тарифе Dcision, когда он успешно проходит через API.

Ошибки движка

КодСтатусПричина
ENGINE_NOT_CONFIGURED424Для выбранного провайдера не сохранён ключ, для решения на Laya нет сервера Laya, для решения на OpenAI нет ключа OpenAI, или ключ движка Dcision недоступен.
ENGINE_AUTH_FAILED502Провайдер отклонил ключ (401/403) или на аккаунте нет кредитов (402, 429 insufficient_quota у OpenAI). Проверьте его в «Настройки → Движок».
ENGINE_RATE_LIMITED503Провайдер перегружен или ограничивает частоту запросов (429/503/529), или у общего ключа Dcision не нашлось свободного слота до дедлайна.
ENGINE_UNAVAILABLE503Провайдер дал сбой (5xx) или недоступен.
ENGINE_TIMEOUT504Нет ответа в пределах timeoutMs решения.
ENGINE_INVALID_REQUEST502Провайдер отклонил запрос; сообщение содержит его причину. Также URL сервера Laya, который разрешается в приватный или зарезервированный адрес.
ENGINE_ERROR502Движок ответил вне контракта (например, неизвестным вариантом).

В пределах timeoutMs решения Dcision делает до 2 повторов при сетевых ошибках, ответах 429/503/529 и других 5xx, учитывая Retry-After провайдера, — см. timeoutMs. Неудачные запуски записываются как выполнения со статусом Ошибка и не тарифицируются. С onEngineError: "fallback" каждая ошибка из этой таблицы, кроме ENGINE_NOT_CONFIGURED, становится ответом 200 с fallback-действием решения. См. Ошибки.

На этой странице