Question 1

Quels modeles puis-je utiliser ?

Accepted Answer

Route Key expose les modèles activés par le backend de prix, dont GPT, Claude, Gemini, DeepSeek, Qwen et les canaux compatibles. Consultez la page Modèles pour comparer le fournisseur, le contexte, les endpoints, les groupes disponibles et l’identifiant exact avant d’envoyer du trafic de production.

Question 2

Dois-je reecrire mon SDK ?

Accepted Answer

En général non. Gardez le corps de requête et le code du SDK, remplacez la base URL par l’endpoint compatible Route Key, ajoutez une clé API Route Key et choisissez un identifiant de modèle pris en charge. Commencez par une petite requête sans streaming, puis activez progressivement le streaming, les outils et le contexte long.

Question 3

Comment fonctionne la remise ?

Accepted Answer

La passerelle compare les routes selon le ratio de groupe, les prix des tokens d’entrée et de sortie, le cache, la latence et la santé. Vous pouvez fixer un modèle ou laisser la politique choisir une route saine moins chère. Vérifiez le modèle, les tokens, le groupe et le coût dans les journaux pour mesurer réellement l’économie.

Question 4

Que deviennent les cles API et les logs ?

Accepted Answer

Les clés sont masquées dans la console. Les journaux affichent, selon les contrôles de confidentialité configurés, le statut, le modèle, le coût, les tokens d’entrée et de sortie, la latence et l’heure. Utilisez une clé par application ou agent pour faciliter l’attribution, la rotation et le diagnostic sans partager un accès partout.

Question 5

Le routage ralentit-il les reponses ?

Accepted Answer

La décision de routage est prise avant le dispatch et peut éviter un canal indisponible avant l’envoi. Les endpoints streaming conservent les réponses SSE pendant que la passerelle choisit une route saine. Surveillez la latence et les erreurs après le déploiement, puis configurez un fallback explicite pour les incidents fournisseur.

Question 6

Est-ce seulement pour les essais ?

Accepted Answer

Non. Créez une clé dédiée dans le Dashboard, configurez l’endpoint compatible Route Key, choisissez un identifiant exact et envoyez un test court. Vérifiez quota, modèle, tokens, latence et coût dans les journaux, puis ajoutez streaming, concurrence, retries et fallback par étapes pour garder une intégration observable et réversible.

Une cle IA. Tous les modeles.

catalog

Trois etapes pour passer en ligne