AIRUS Gateway
Войти

AIRUS RouteEconomics

400 моделей — это не стратегия, а музей. Клиенту не нужен зоопарк API-ключей — нужен ответ: какая модель дешевле, быстрее и достаточно качественная для этой задачи. AIRUS выбирает самую дешёвую модель, которая проходит quality gate.

Что делает

Каждый запрос идёт в оптимальную модель по цене, качеству, latency, data policy и ROI. Главный принцип — cheapest passing model: самая дешёвая модель, которая проходит порог качества. С доказательством в receipt.

Route Policy
POST /routing/policies → objective (cheapest_passing / maximize_quality / minimize_latency / balanced / private_only), quality threshold, cost/latency ceiling, fallback.
Model Scorecards
POST /routing/model-scorecards → по use case: quality_score, hallucination, JSON validity, cost, latency. Источник — EvalOps (реально) или declared.
Task Complexity Classifier
simple / standard / expert / regulated / coding / extraction / creative / agentic — детерминированно по use case, длине, tools и schema.
Decision + Receipt
POST /routing/decide → выбранный route, отклонённые с причинами, cost saved vs premium. Portfolio показывает суммарную экономию и premium avoided %.

Как использовать

# 1. Policy: самая дешёвая модель с качеством ≥ 0.90 (JWT)
POST /v1/airus/routing/policies
{ "policy_key": "support_prod", "objective": "cheapest_passing_model", "minimum_quality_score": 0.90 }

# 2. Scorecards по use case (из EvalOps или declared)
POST /v1/airus/routing/model-scorecards
{ "use_case": "support_rag", "model_route": "airus:balanced-support",
  "quality_score": 0.91, "avg_cost_rub": 2.60, "p95_latency_ms": 3100, "eval_suite_id": "..." }

# 3. Simulate (dry-run) или decide (перед маршрутизацией, API-ключ)
POST /v1/airus/routing/simulate  { "use_case": "support_rag", "policy_id": "..." }
POST /v1/airus/routing/decide    # → routing receipt: selected_route, cost_saved_vs_premium_rub

# 4. Экономия по портфелю
GET  /v1/airus/routing/portfolio

Честно про движок

  • Оптимизатор детерминированный: «cheapest passing model» и другие objective — прозрачное правило над scorecards + policy. Отклонённые маршруты — с явной причиной (below_quality_threshold / exceeds_cost_ceiling / quality_gain_too_small_for_cost_delta).
  • quality_score в scorecards — из EvalOps (реальные прогоны golden-датасета) либо declared/nominal (source помечен). Дешёвая модель, проваливающая JSON, не «экономит».
  • cost saved — реальная математика (vs самый дорогой кандидат). Связка с ValueOps (цена за результат) и data policy (ПДн → private route).
  • Roadmap: runtime auto-enforcement в hot-path gateway, output-budget routing, prompt compression, semantic cache, автоматический route rebalancing, provider price watcher. v0 — слой решений/политик/receipts (клиент применяет выбранный route).
Запустить SimulatorRouteEconomics APIObjectives & Complexities