7 вопросов, которые стоит задать AI-агрегатору до подписания договора
Каталог моделей и низкая цена за токен — это витрина. Ниже — семь вопросов, которые отличают готовый к продакшну LLM-шлюз от красивой обёртки над чужим API. Спойлер: по этому же чек-листу мы честно проверили сами себя.
Рынок LLM-агрегаторов в России вырос за год в разы: одинаковые лендинги обещают «400+ моделей, один API, оплата в рублях». Витрина у всех похожа. Разница — в том, что происходит после подписания договора, когда шлюз становится частью вашего продакшна.
Вот семь вопросов, которые мы рекомендуем задавать любому поставщику — включая нас.
1. Что именно вы храните из моих запросов?
Правильный ответ должен быть точным: какие поля, сколько дней, где физически. «Мы ничего не храним» без деталей — тревожный знак: без метаданных невозможен ни биллинг, ни диагностика.
AIRUS: по умолчанию metadata-only — токены, модель, латентность, стоимость. Тексты промптов и ответов не сохраняются; включить хранение можно только явной настройкой политики.
2. Как устроен биллинг — и можно ли его проверить?
Спросите: что произойдёт при обрыве стрима на середине? Возможен ли отрицательный баланс? Есть ли история списаний, которую нельзя отредактировать задним числом?
AIRUS: prepaid в рублях, резерв до запроса и списание по факту, append-only журнал — каждую копейку можно проследить.
3. Какие закрывающие документы вы даёте юрлицу?
Счёт, акт, УПД, ЭДО — скучная тема ровно до первой бухгалтерской сверки.
AIRUS, честно: счёт и акт — да; полный контур УПД/ЭДО — в работе, статус «частично». Если для вас это блокер сегодня — скажите нам об этом, приоритезируем.
4. Что происходит, когда провайдер модели падает?
Вопрос не «есть ли fallback», а «как он настроен»: по каким условиям переключение, что со стоимостью (fallback может быть дороже в разы), увидите ли вы это в отчёте.
AIRUS: маршруты с fallback, health-контроль провайдеров и — важное отличие — экономика маршрута видна до и после запроса.
5. Как вы ограничите мой перерасход?
Один зацикленный агент способен сжечь месячный бюджет за ночь. Нужны бюджеты и жёсткие лимиты на проект и на ключ, а не «мы пришлём уведомление».
AIRUS: лимиты по ключу/проекту, бюджеты с hard cap (бета), anomaly guard против runaway-агентов.
6. Насколько тяжело от вас уйти?
Здоровый поставщик отвечает спокойно: экспорт конфигурации, история usage, совместимый API, понятная процедура. Если ответ уклончивый — vendor lock-in уже начался.
AIRUS: OpenAI-совместимый API (обратная миграция — смена base_url), экспорт истории, без экзотических SDK.
7. Покажете историю аптайма?
AIRUS, честно: публичной страницы истории аптайма пока нет — есть /status с текущим состоянием. Публичная история — в роадмапе; обещать задним числом то, чего не было, не будем.
Итог
Хороший шлюз отличается от обёртки не количеством моделей, а поведением в плохой день: при падении провайдера, обрыве стрима, перерасходе бюджета и вопросах вашей службы безопасности. Задайте эти семь вопросов каждому кандидату — и сравните не обещания, а ответы.