Question 1

Какие модели можно использовать?

Accepted Answer

Route Key показывает модели, включённые в pricing backend: GPT, Claude, Gemini, DeepSeek, Qwen и совместимые пользовательские каналы. На странице Models можно сравнить провайдера, длину контекста, endpoint, доступные группы и точный ID модели перед production-трафиком.

Question 2

Нужно ли переписывать SDK?

Accepted Answer

Обычно нет. Сохраните привычный OpenAI request body и SDK, замените base URL на совместимый endpoint Route Key, задайте API key Route Key и выберите поддерживаемый ID модели. Сначала отправьте короткий запрос без streaming, затем поэтапно добавляйте streaming, tools и длинный контекст.

Question 3

Как работает скидка?

Accepted Answer

Gateway сравнивает routes по group ratio, ценам входных и выходных токенов, кэшу, latency и health. Можно закрепить модель или позволить политике выбрать здоровый более дешёвый route. В Usage Logs сравнивайте модель, токены, группу и стоимость, чтобы видеть фактическую экономию.

Question 4

Что с API-ключами и логами?

Accepted Answer

Ключи маскируются в консоли. В зависимости от настроек приватности Usage Logs показывают статус, модель, стоимость, входные и выходные токены, latency и время. Отдельный ключ для каждого приложения или coding agent упрощает ротацию доступа и точное распределение расходов.

Question 5

Маршрутизация замедлит ответ?

Accepted Answer

Решение принимается до dispatch, поэтому неисправный канал можно исключить ещё до отправки запроса. Streaming endpoints сохраняют формат SSE. После запуска проверяйте latency и ошибки, а для сбоев провайдера задайте явный fallback вместо одинаковых бесконечных повторов в каждом клиенте.

Question 6

Это только для экспериментов?

Accepted Answer

Нет. Создайте отдельный ключ в Dashboard, настройте совместимый endpoint и точный ID модели, затем отправьте короткий тест. Проверьте ответ, quota, модель, токены, latency и стоимость в Usage Logs. После этого добавляйте streaming, concurrency, retries и fallback по одному, чтобы изменения оставались наблюдаемыми и обратимыми.

Больше интеллекта.Меньше затрат.