Route Key
AI 路由控制平面
示範模式 / 00:00:00
OpenAI 相容路由層

路由每一個請求。

使用一個相容閘道,依成本、延遲與健康度調度 GPT、Claude、Gemini、DeepSeek、Qwen 與自訂通道。

統一模型存取
價格感知路由
即插即用相容
整合面板

替換端點,保留工作流

Route Key 將應用程式碼與供應商分散狀態分離:一個相容入口、即時模型情報、策略派送、金鑰遮罩、串流連續性,以及控制台級用量遙測。

差值labels.notAvailable
01快速開始
01
簽發金鑰
從工作台建立或複製 API Token。
02
替換 Base URL
將 SDK 指向 Route Key 相容端點。
03
路由流量
選擇模型路由,或讓策略挑選健康通道。
curl /v1/chat/completions \
  -H "Authorization: Bearer sk-route-key" \
  -d '{"model":"gpt-4o-mini","stream":true}'
02通道情報
gpt-4o-mini
OpenAI
chat
128K上下文labels.notAvailable延遲
$0.000240/ 百萬 Token
claude-3-5-sonnet
Anthropic
messages
200K上下文labels.notAvailable延遲
$0.001800/ 百萬 Token
gemini-1.5-pro
Google
generateContent
1M上下文labels.notAvailable延遲
$0.001200/ 百萬 Token
策略飛行路徑

請求只進入一次,策略選擇最佳路由。

SDK 保留原有請求形狀,Route Key 在閘道後方解析目錄中繼資料、通道價格、串流連續性與故障切換狀態。

精簡工作台插圖,顯示請求被路由到高亮模型通道
閘道
目錄
策略
節省
相容
路由差值labels.notAvailable
價格感知路由labels.notAvailable
亞秒級策略決策labels.notAvailable
隱私防護邊界範圍化
5
模型
5
供應商
4
端點
4
群組
gpt-4o-mini
OpenAI
chat
$0.000240
價格
128K
上下文
labels.notAvailable
延遲
claude-3-5-sonnet
Anthropic
messages
$0.001800
價格
200K
上下文
labels.notAvailable
延遲
gemini-1.5-pro
Google
generateContent
$0.001200
價格
1M
上下文
labels.notAvailable
延遲
01
簽發金鑰
從工作台建立或複製 API Token。
02
替換 Base URL
將 SDK 指向 Route Key 相容端點。
03
路由流量
選擇模型路由,或讓策略挑選健康通道。

請求進入閘道前的常見問題

01我可以使用哪些模型?

Route Key 會公開價格後端已啟用的模型,包含主流 GPT、Claude、Gemini、DeepSeek、Qwen,以及相容的自訂通道。前往模型頁面即可比較供應商、上下文長度、端點支援、可用群組與精確模型 ID,再決定要送出正式流量。

02需要重寫 SDK 程式碼嗎?

通常不需要。保留熟悉的 OpenAI 請求 body 與 SDK 程式碼,將 Base URL 換成 Route Key 相容端點,設定 API 金鑰並選擇支援的模型 ID。先用短小的非串流請求確認回應,再逐步加入串流、工具與長上下文,能較快定位整合問題。

03折扣如何運作?

閘道會依群組倍率、輸入與輸出 Token 價格、快取、延遲與健康度比較可用路由。需要一致性時可以固定模型,也可以讓策略挑選健康且成本較低的路由。請在用量記錄中比較模型、Token、群組與成本,確認節省是真實可量化的。

04API 金鑰與記錄會如何處理?

金鑰在控制台中以遮罩顯示。依照隱私設定,用量記錄可查看狀態、模型、成本、輸入輸出 Token、延遲與時間。為每個應用程式或 coding agent 使用獨立金鑰,方便輪替權限,也能清楚歸屬每個工作負載的用量。

05路由會拖慢回應嗎?

路由在派送前決定,因此可以在送出請求前避開異常通道。串流端點仍會維持 SSE 回應格式,同時由閘道選擇健康路由。上線後請觀察延遲與錯誤,並為供應商故障設定明確的備援策略,避免每個客戶端都無限制重試。

06這只適合實驗嗎?

不是。先在工作台建立獨立 API 金鑰,設定相容端點與精確模型 ID,再送出短小測試。於用量記錄確認回應、額度、模型、Token、延遲與成本,接著逐步加入串流、並行、重試與備援,讓正式環境的變更可觀察也可回復。