Claude Code avec LiteLLM : Guide de configuration + Quand utiliser TrueFoundry AI Gateway

Par défaut, Claude Code est verrouillé sur l'API d'Anthropic. C'est parfait pour les développeurs indépendants, mais dès que vous travaillez en équipe, vous avez besoin de contrôler les coûts, d'avoir une visibilité sur l'utilisation et d'accéder à des modèles au-delà du catalogue d'Anthropic. C'est exactement ce qu'apporte une passerelle IA (AI gateway).

LiteLLM est l'option open source la plus populaire pour cela. En pointant Claude Code vers un proxy LiteLLM, vous pouvez router vers Bedrock, Vertex AI, Azure OpenAI ou n'importe quel autre fournisseur sans modifier le comportement de Claude Code dans le terminal. Cependant, l'architecture auto-hébergée de LiteLLM génère une surcharge de travail réelle à grande échelle, et ses manques en matière de fonctionnalités d'entreprise apparaissent rapidement.

Ce guide couvre les deux options : comment configurer Claude Code avec LiteLLM aujourd'hui, et quand le passage à TrueFoundry AI Gateway est plus judicieux pour votre équipe.

Pourquoi connecter Claude Code à une AI Gateway ?

Claude Code expose une unique variable d'environnement - ANTHROPIC_BASE_URL - qui redirige tout son trafic d'API vers n'importe quel point de terminaison compatible avec l'API Anthropic Messages. Définissez cette variable avec l'URL d'une passerelle, et chaque requête effectuée par Claude Code passera par votre infrastructure au lieu d'aller directement chez api.anthropic.com.

Cette seule variable débloque quatre fonctionnalités que les clés d'API individuelles ne peuvent pas offrir :

• Visibilité sur les coûts. Les clés Anthropic directes génèrent des dépenses invisibles jusqu'à l'arrivée de la facture mensuelle. Une passerelle intercepte chaque requête et offre une attribution par développeur, par équipe ou par projet en temps réel.
• Accès multi-fournisseurs. Routez les tâches de niveau Opus vers le meilleur modèle frontalier disponible, et les tâches de niveau Haiku vers des alternatives moins chères, sans modifier une seule ligne dans Claude Code.
• Identifiants centralisés. Pas de clés d'API Anthropic en clair stockées dans des fichiers .bash_profile sur les ordinateurs des développeurs. La passerelle conserve les identifiants des fournisseurs ; les développeurs s'authentifient auprès de la passerelle avec des clés virtuelles restreintes.
• Fiabilité. Routage de secours (fallback) automatique quand Anthropic atteint ses limites de débit ou subit une panne. Claude Code n'a jamais besoin de savoir qu'un basculement a eu lieu.

La question n'est pas de savoir s'il faut utiliser une passerelle, mais de choisir laquelle.

Comment Claude Code se connecte à n'importe quelle passerelle

Le mécanisme reste le même, que vous utilisiez LiteLLM, TrueFoundry ou tout autre proxy compatible avec Anthropic. Deux variables d'environnement contrôlent l'ensemble :‍


Pour une configuration persistante entre les sessions, inscrivez ces variables dans le fichier settings.json de Claude Code :

Le fichier de paramètres se trouve dans ~/.claude/settings.json (global pour l'utilisateur) ou dans .claude/settings.json à la racine de votre projet (partagé avec l'équipe). Pour les déploiements en équipe, le fichier au niveau du projet est le choix idéal : il garantit que chaque développeur du projet utilise la même configuration de passerelle, sans aucune installation manuelle par machine.

À partir de cet instant, Claude Code ignore complètement qu'il communique avec une passerelle au lieu d'Anthropic directement. Tout fonctionne exactement comme avant : le streaming, l'utilisation d'outils, les alias de modèles et les conversations multi-tours.

Configurer Claude Code avec LiteLLM

LiteLLM s'exécute en tant que proxy local ou auto-hébergé qui traduit l'API Anthropic Messages dans le format attendu par chaque fournisseur en amont. Voici la configuration standard.

Étape 1 : Installer LiteLLM et rédiger votre configuration

Créez un fichier litellm-config.yaml qui définit votre liste de modèles. Une configuration minimale avec Anthropic direct et AWS Bedrock en secours ressemble à ceci :

Exportez vos clés et démarrez le proxy :‍


Étape 2 : Pointer Claude Code vers LiteLLM‍


Ou pour une configuration d'équipe permanente dans .claude/settings.json :‍


Exécutez claude dans votre terminal. Claude Code se connecte via LiteLLM, et LiteLLM transmet la requête à Anthropic (ou au fournisseur que vous avez configuré).

Étape 3 : Ajouter Bedrock, Vertex ou d'autres fournisseurs

La raison principale pour laquelle les équipes ajoutent LiteLLM est le routage vers AWS Bedrock (pour l'inférence au sein d'un VPC) ou Google Vertex AI (pour les workflows natifs GCP). Ajoutez les fournisseurs à votre liste de modèles :‍


Remarque sur Bedrock et les en-têtes expérimentaux : Claude Code joint des en-têtes expérimentaux anthropic-beta à chaque requête. Bedrock ne les accepte pas tous et peut renvoyer une erreur 400 invalid beta flag. Définissez CLAUDE_CODE_DISABLE_EXPERIMENTAL_BETAS=1 dans le bloc d'environnement de votre ~/.claude/settings.json lors du routage via Bedrock.

Limites de LiteLLM à l'échelle de l'entreprise

LiteLLM fonctionne bien pour les développeurs individuels et les petites équipes. À mesure que les organisations grandissent, plusieurs lacunes deviennent critiques :

Surcoût de latence. LiteLLM ajoute un surcoût de proxy mesurable sous forte charge concurrente. Pour les sessions Claude Code, où une seule tâche de codage génère des dizaines d'appels API séquentiels, cet retard s'accumule. À un nombre élevé de requêtes par seconde (RPS), LiteLLM peine sans une mise à l'échelle horizontale nécessitant une configuration Kubernetes manuelle.

Absence de RBAC natif. Le système de clés virtuelles de LiteLLM est basique. Garantir que l'Équipe A n'accède qu'aux modèles Claude tandis que l'Équipe B peut utiliser n'importe quel fournisseur, ou faire expirer la clé d'un prestataire au bout de 30 jours, nécessite de développer un middleware personnalisé par-dessus LiteLLM.

Fardeau de l'infrastructure auto-hébergée. LiteLLM est open source. Chaque mise à jour, migration Postgres, configuration du cache Redis et certificat SSL relève de la responsabilité de votre équipe. Pour les équipes plateforme déjà débordées, cela représente une charge de maintenance significative.

Contrôle budgétaire limité. LiteLLM prend en charge les limites budgétaires par clé, mais le plafonnement proactif par développeur avec des alertes en temps réel avant d'atteindre la limite nécessite des outils supplémentaires.

Manques en matière de conformité. Les charges de travail régies par SOC 2, HIPAA et le RGPD nécessitent des journaux d'audit, un historique des requêtes immuable et le contrôle de la résidence des données. Ces fonctionnalités ne sont pas intégrées dans la version open source de LiteLLM.

Pour les équipes exécutant LiteLLM en production et se heurtant à ces limites, l'article sur les alternatives à LiteLLM couvre l'ensemble des solutions. En résumé : TrueFoundry AI Gateway est conçu sur mesure pour les cas d'usage d'entreprise pour lesquels LiteLLM n'a jamais été pensé.

Claude Code avec TrueFoundry AI Gateway

TrueFoundry AI Gateway est un point de terminaison compatible avec Anthropic, prêt à l'emploi. Le même mécanisme ANTHROPIC_BASE_URL qui connecte Claude Code à LiteLLM le connecte à TrueFoundry : aucun changement dans le fonctionnement de Claude Code, pas de nouveau SDK, ni de réécriture côté client.

La différence réside dans ce qui se passe au niveau de la passerelle. TrueFoundry s'exécute dans votre VPC, gère un surcoût d'environ 3 à 4 ms à plus de 350 RPS sur un seul vCPU, et intègre d'origine le RBAC, le contrôle budgétaire, la journalisation d'audit et le routage multi-fournisseurs — sans nécessiter de développements spécifiques.

Étape 1 : Obtenir l'URL de votre passerelle TrueFoundry et votre clé virtuelle

Connectez-vous à votre plan de contrôle TrueFoundry. Accédez à AI Gateway → Virtual Keys et créez une clé restreinte pour votre équipe ou votre projet. Vous obtiendrez :

• Une URL de plan de contrôle au format https://<your-org>.truefoundry.cloud/api/llm/v1
• Une clé virtuelle (limitée à des modèles spécifiques, des fournisseurs et des plafonds budgétaires optionnels)

Étape 2 : Connecter Claude Code à TrueFoundry‍


Pour une configuration persistante au niveau du projet, ajoutez ceci à .claude/settings.json :‍


Exécutez claude - Claude Code passe maintenant par TrueFoundry. Chaque requête est enregistrée, attribuée et régie par les politiques définies sur cette clé virtuelle.

Étape 3 : Configurer les fournisseurs et le routage des modèles dans le tableau de bord

Contrairement à la configuration par fichier YAML de LiteLLM, la configuration des fournisseurs dans TrueFoundry se fait directement dans le tableau de bord de la Gateway. Ajoutez votre compte Anthropic, connectez vos identifiants AWS Bedrock ou Google Vertex, et définissez des alias de modèles, le tout depuis une interface utilisateur gérée de manière centralisée par votre équipe plateforme.

Les alias de modèles intégrés à Claude Code (opus, sonnet, haiku) s'associent parfaitement aux modèles virtuels de TrueFoundry. Configurez l'association une fois dans le tableau de bord et chaque développeur utilisant le projet .claude/settings.json bénéficie automatiquement du bon routage de modèle, sans toucher aux variables d'environnement de sa propre machine.

Ce que vous débloquez : les workflows d'entreprise Claude Code

Une fois Claude Code routé via TrueFoundry, cinq capacités inaccessibles avec un accès direct à Anthropic ou un LiteLLM basique deviennent disponibles :

Contrôle des coûts. Définissez des budgets quotidiens de jetons par développeur ou par équipe directement sur les clés virtuelles. La passerelle applique les limites de manière proactive : les requêtes dépassant le budget renvoient une erreur avant de générer des dépenses, au lieu de vous alerter après réception de la facture.

Observabilité. Chaque requête Claude Code est tracée de bout en bout : quel développeur l'a envoyée, quel modèle l'a traitée, combien de jetons ont été consommés et quel en a été le coût. TrueFoundry est compatible avec OpenTelemetry et s'intègre à Grafana, Datadog ou Prometheus sans instrumentation supplémentaire.

Sécurité et gouvernance. Les clés virtuelles remplacent les clés d'API Anthropic brutes sur les machines des développeurs. Lorsqu'un ingénieur quitte l'entreprise, vous révoquez sa clé à un seul endroit. Les identifiants Anthropic sous-jacents ne quittent jamais le gestionnaire de secrets de la passerelle. Pour les entreprises nécessitant une intégration de Claude Code avec le SSO et une configuration imposée par MDM, la passerelle de TrueFoundry constitue la couche d'application des règles.

Accès multi-fournisseurs. Claude Code communique avec un seul point de terminaison. Derrière ce point de terminaison, TrueFoundry route vers Anthropic direct, AWS Bedrock, Google Vertex AI, Azure OpenAI ou des modèles sur site, selon les politiques que vous définissez. Changez de fournisseur sans toucher à la moindre machine de développeur.

Fiabilité. Le routage de secours automatique gère les limites de débit d'Anthropic de façon transparente. Si le fournisseur principal renvoie une erreur 429 ou 503, la passerelle réessaie vers une solution de secours configurée avant que Claude Code ne voie une erreur. Pour les workflows de développement qui ne peuvent pas se permettre d'interruption, c'est ce qui fait la différence entre un désagrément mineur et un sprint bloqué.

LiteLLM vs TrueFoundry pour Claude Code

LiteLLM est un excellent proxy pour les développeurs individuels ou les petites équipes qui réalisent des expérimentations. TrueFoundry est conçu pour les scénarios où Claude Code devient un outil déployé à l'échelle de l'équipe et où l'équipe plateforme doit assurer sa gouvernance sans avoir à développer elle-même cette infrastructure.

FAQ

Q : Comment utiliser Claude Code avec LiteLLM ?

‍Installez LiteLLM avec pip install litellm[proxy], rédigez un fichier litellm-config.yaml définissant vos modèles et démarrez le proxy avec litellm --config. Définissez ensuite ANTHROPIC_BASE_URL=http://localhost:4000 et ANTHROPIC_AUTH_TOKEN avec votre clé maître LiteLLM avant de lancer claude. L'ensemble de la procédure est détaillé dans la section pas à pas ci-dessus.

Q : TrueFoundry est-il une solution de remplacement directe de LiteLLM pour Claude Code ?

‍Oui. TrueFoundry AI Gateway expose un point de terminaison compatible avec Anthropic. Le passage de LiteLLM à TrueFoundry se fait donc en modifiant une seule ligne : mettez à jour ANTHROPIC_BASE_URL avec l'URL de votre passerelle TrueFoundry et remplacez le jeton d'authentification. Claude Code ne voit aucune différence. Ce qui change, c'est tout ce qui se trouve derrière la passerelle : observabilité, contrôle des coûts, RBAC et infrastructure gérée.

Q : Quelle latence TrueFoundry AI Gateway ajoute-t-il aux requêtes Claude Code ?

‍Environ ~3–4 ms de surcoût au niveau de la passerelle, pour plus de 350 RPS sur un seul vCPU. Rapporté aux temps de réponse de Claude Code (qui se comptent en secondes et non en millisecondes), la passerelle n'ajoute aucune latence perceptible à l'expérience du développeur.

Q : Puis-je déployer TrueFoundry dans mon propre VPC ou sur site ?

‍Oui. TrueFoundry s'exécute dans votre VPC, sur site, en environnement isolé (air-gapped), hybride ou sur plusieurs nuages : aucune donnée ne quitte votre infrastructure. C'est la raison principale pour laquelle les entreprises régulées choisissent TrueFoundry plutôt que des passerelles exclusivement SaaS ou un LiteLLM auto-hébergé.

Conclusion

LiteLLM est une première étape éprouvée pour connecter Claude Code à plusieurs fournisseurs d'IA. Si vous êtes un développeur indépendant ou une petite équipe menant des expérimentations, c'est un choix solide qui permet d'obtenir un routage multi-fournisseurs avec quelques lignes de configuration YAML.

Lorsque Claude Code devient un outil d'équipe — quand vous devez appliquer des budgets, auditer l'utilisation, régir les accès et répondre aux exigences de conformité sans construire cette infrastructure vous-même — la complexité de configuration et les manques de fonctionnalités de LiteLLM deviennent un véritable coût. TrueFoundry AI Gateway est le point de terminaison compatible avec Anthropic qui gère l'ensemble de ces besoins grâce au changement d'une seule variable d'environnement.

Commencez à router Claude Code via TrueFoundry AI Gateway → truefoundry.com/ai-gateway