ROUTEKEY / FAQ少一點疑問, 多一點可能。
01我可以使用哪些模型?
Route Key 會公開價格後端已啟用的模型,包含主流 GPT、Claude、Gemini、DeepSeek、Qwen,以及相容的自訂通道。前往模型頁面即可比較供應商、上下文長度、端點支援、可用群組與精確模型 ID,再決定要送出正式流量。
02需要重寫 SDK 程式碼嗎?
通常不需要。保留熟悉的 OpenAI 請求 body 與 SDK 程式碼,將 Base URL 換成 Route Key 相容端點,設定 API 金鑰並選擇支援的模型 ID。先用短小的非串流請求確認回應,再逐步加入串流、工具與長上下文,能較快定位整合問題。
03折扣如何運作?
閘道會依群組倍率、輸入與輸出 Token 價格、快取、延遲與健康度比較可用路由。需要一致性時可以固定模型,也可以讓策略挑選健康且成本較低的路由。請在用量記錄中比較模型、Token、群組與成本,確認節省是真實可量化的。
04API 金鑰與記錄會如何處理?
金鑰在控制台中以遮罩顯示。依照隱私設定,用量記錄可查看狀態、模型、成本、輸入輸出 Token、延遲與時間。為每個應用程式或 coding agent 使用獨立金鑰,方便輪替權限,也能清楚歸屬每個工作負載的用量。
05路由會拖慢回應嗎?
路由在派送前決定,因此可以在送出請求前避開異常通道。串流端點仍會維持 SSE 回應格式,同時由閘道選擇健康路由。上線後請觀察延遲與錯誤,並為供應商故障設定明確的備援策略,避免每個客戶端都無限制重試。
06這只適合實驗嗎?
不是。先在工作台建立獨立 API 金鑰,設定相容端點與精確模型 ID,再送出短小測試。於用量記錄確認回應、額度、模型、Token、延遲與成本,接著逐步加入串流、並行、重試與備援,讓正式環境的變更可觀察也可回復。
需要時,我們就在這裡。