agentgateway vs Vercel AI Gateway : passerelle d'agents hébergée sur votre propre infrastructure ou routeur de modèles géré ?
.webp)
Conçu pour la vitesse : latence d'environ 10 ms, même en cas de charge
Une méthode incroyablement rapide pour créer, suivre et déployer vos modèles !
- Gère plus de 350 RPS sur un seul processeur virtuel, aucun réglage n'est nécessaire
- Prêt pour la production avec un support complet pour les entreprises
Sur le papier, agentgateway et Vercel AI Gateway remplissent la même fonction. Tous deux placent un point d'accès unique compatible avec OpenAI devant une longue liste de fournisseurs de modèles. En pratique, ils sont conçus pour des acheteurs différents. Vercel AI Gateway est un service hébergé : vous envoyez des requêtes à Vercel, et Vercel gère tout ce qui se trouve derrière le point d'accès. agentgateway, créé par Solo.io et aujourd'hui hébergé par la Linux Foundation, est un logiciel open source que vous installez et exécutez vous-même, et qui régit également les appels d'outils MCP et le trafic d'agent à agent. Ainsi, avant de comparer les fonctionnalités, décidez si vous souhaitez exploiter vous-même une passerelle, et quelle part de votre trafic proviendra d'agents plutôt d'applications.
Nous avons utilisé les deux. Notre équipe a testé concrètement la version open source d'agentgateway (v1.5.0, avec une vérification des conclusions principales sur la v1.6.0), et nous avons exécuté nos propres requêtes via la passerelle hébergée de Vercel. Nous avons ensuite vérifié chaque affirmation de cet article par rapport à la documentation de chaque fournisseur en novembre 2026, date à laquelle agentgateway était en version 1.7.0.
Présentation de Vercel AI Gateway
Vercel AI Gateway s'intercale entre votre application et les fournisseurs de modèles. Elle conserve vos identifiants, suit l'utilisation et applique les limites de dépense, le tout derrière un point d'accès unique. Devenue généralement accessible en août 2025, elle est issue de la plateforme web de Vercel et du SDK AI. Vous pouvez l'appeler avec des API compatibles OpenAI ou Anthropic, le SDK AI ou simplement via HTTP, et votre application n'a pas besoin d'être hébergée sur Vercel. Le catalogue répertorie plus de 400 modèles provenant d'OpenAI, Anthropic, Google, Amazon Bedrock et d'autres.
Vous ne déployez rien. Vercel décrit la passerelle comme une application Node.js s'exécutant sur sa propre infrastructure Fluid compute, avec Redis dans chaque région pour suivre les quotas, tout cela sans aucune contrainte de gestion pour vous. Cela s'est confirmé lors de nos tests. Les requêtes sont passées par OpenAI, Google Vertex AI et Amazon Bedrock, les appels d'outils et les sorties structurées strictes sont revenus valides, et lorsque le modèle principal n'avait aucun fournisseur disponible, la passerelle a basculé vers le modèle de secours que nous avions configuré.
La tarification est l'élément qui attire le plus l'attention au premier abord. Vercel ne applique aucune marge (0 %) sur les tokens, même lorsque vous apportez vos propres clés de fournisseurs, et chaque équipe bénéficie d'un crédit mensuel gratuit pour un sous-ensemble de modèles. Les fonctionnalités de gouvernance entraînent un coût supplémentaire par requête, et les fonctionnalités d'équipe telles que l'authentification unique SAML sont incluses dans un forfait Vercel. La contrainte réside dans son lieu d'exécution : Vercel ne documente aucun moyen d'exécuter la passerelle dans votre propre VPC, sur site ou en environnement isolé. Si vous découvrez cette catégorie, notre guide expliquant ce qu'est une passerelle LLM en couvre les bases.
Présentation d'agentgateway
agentgateway n'est pas une simple mise à jour de l'ancienne Gloo AI Gateway de Solo. Solo a développé un nouveau proxy en Rust, l'a placé sous licence Apache 2.0 et l'a confié à la fondation Agentic AI au sein de la Linux Foundation. Solo commercialise toujours l'édition payante, Solo Enterprise pour agentgateway. Vous pouvez l'exécuter sous la forme d'un binaire unique lisant un fichier YAML, sous forme de conteneur, ou sur Kubernetes avec un plan de contrôle et un plan de données séparés, où il implémente l'API Gateway. Il est léger et rapide. Notre équipe l'a vu traiter du trafic en moins de 11 secondes lors d'un démarrage à froid, avec une consommation de mémoire d'environ 18 Mo au repos, et sur un réseau sans accès à Internet, il n'a effectué aucun appel externe.
Il gère trois types de trafic avec un modèle de politique unique : les appels LLM, le trafic du protocole MCP (Model Context Protocol) entre agents et outils, et les appels d'agent à agent (A2A). L'autorisation MCP est la partie qui nous a le plus séduits. Vous rédigez des règles définissant les outils que chaque appelant peut utiliser, et la passerelle filtre également la liste des outils, afin qu'un agent ne voie jamais un outil qu'il n'est pas autorisé à appeler. L'édition gratuite valide également les jetons JWT auprès de votre fournisseur d'identité, limite les modèles que chaque clé peut utiliser, applique des budgets de dépense par clé et masque les données sensibles telles que les adresses e-mail et les numéros de carte avant que le prompt ne quitte votre réseau.
Solo facture tout ce qui doit être partagé entre les instances. Les limites de débit à l'échelle du cluster, une ressource de budget partagée et une vue unique sur les coûts sont toutes des fonctionnalités enterprise. Notre évaluation d'agentgateway fournit bien plus de détails.
Comparaison face à face
La colonne agentgateway provient de nos tests de la version open source (v1.5.0, vérifiée à nouveau sur la v1.6.0) et de la documentation de Solo pour la v1.7.0. La colonne Vercel provient de la documentation publique de Vercel et de nos tests sur un compte de niveau gratuit. Nous avons vérifié les deux en novembre 2026.
Là où Vercel AI Gateway se distingue
Vous n'avez rien à gérer. Il n'y a aucun cluster à dimensionner ni aucune mise à jour à planifier. Cela compte plus qu'il n'y paraît : agentgateway publie une version mineure environ chaque mois, et la version 1.6.0 comportait à elle seule cinq modifications majeures rompant la compatibilité (breaking changes).
Les tarifs de Vercel sont publics. La marge sur les tokens (zéro), les frais par fonctionnalité et le prix des forfaits sont tous détaillés sur son site web. Solo ne propose pas de grille tarifaire publique pour son édition enterprise, et vous ne pouvez pas démarrer un essai sans contacter l'équipe commerciale.
Les limites s'appliquent à l'ensemble du service. Vercel exécute une passerelle unique pour tous les utilisateurs, de sorte que les budgets et les quotas restent valables quelle que soit l'origine de votre trafic. Avec agentgateway, les budgets et les limites de débit couvrant plusieurs instances nécessitent l'édition enterprise.
Vous accédez à plus de 400 modèles derrière une seule clé. Les requêtes peuvent être ordonnées ou triées par fournisseur, vitesse ou coût, et peuvent basculer vers d'autres fournisseurs ou modèles en cas de défaillance.
Elle ne conserve pas vos prompts. La passerelle de Vercel ne capture pas le texte des prompts ni des réponses, et vous pouvez activer la rétention zéro des données à l'échelle de l'équipe ou bloquer les fournisseurs qui utilisent les prompts pour le réentraînement.
Là où agentgateway se distingue
Vous choisissez son lieu d'exécution : votre VPC, votre propre centre de données ou un réseau isolé (air-gapped). Les prompts ne transitent jamais par la passerelle d'un tiers. La passerelle de Vercel est uniquement hébergée.
Il comprend le fonctionnement des agents. Les règles MCP par outil, les listes d'outils par appelant et la prise en charge A2A utilisent tous le même modèle de politique que les appels de modèles. Vercel délègue l'exécution des outils, ainsi que les règles concernant les outils qu'un agent peut appeler, à votre application.
Il peut supprimer les données sensibles. Le masquage intégré des PII élimine les informations telles que les adresses e-mail et les numéros de carte avant qu'une requête n'atteigne le fournisseur. Nous n'avons rien trouvé d'équivalent dans la documentation de Vercel.
Il communique avec vos propres modèles. Tout point d'accès compatible OpenAI fonctionne comme backend, y compris vLLM ou Ollama s'exécutant sur votre propre matériel. Vercel vous permet d'utiliser vos propres clés pour les fournisseurs pris en charge, mais ne documente pas le routage vers des points d'accès privés arbitraires.
Il est open source et géré par une fondation. Le code est sous licence Apache 2.0 et hébergé au sein d'un projet de la Linux Foundation, de sorte que son avenir ne dépend pas exclusivement des orientations stratégiques de Solo. En sortir est également peu coûteux, car vos applications continuent d'utiliser l'API standard d'OpenAI.
Performances
Nous ne pouvons pas tester ces deux solutions de la même manière, nous ne les classerons donc pas. agentgateway s'exécute sur le matériel que vous lui allouez. La passerelle de Vercel est un service mutualisé, et la seule façon de la mesurer est de l'évaluer de l'extérieur.
Lisez le chiffre de Vercel avec précaution. Il inclut l'aller-retour vers le réseau de Vercel et a beaucoup varié : sur 21 des 98 paires de requêtes, passer par la passerelle a été plus rapide que d'appeler OpenAI directement. Un appel de modèle prend généralement de plusieurs centaines de millisecondes à quelques secondes de toute façon, de sorte qu'aucune des deux passerelles ne risquera d'être votre goulot d'étranglement. Pour le streaming, agentgateway n'a pas ajouté plus d'environ 12 ms avant le premier token par rapport à un appel direct à un fournisseur en direct.
Toutes deux présentent un point faible sous forte charge. Le niveau gratuit de Vercel a laissé passer environ quatre requêtes d'affilée avant de renvoyer une erreur HTTP 429, sans en-tête Retry-After, ce qui nous a empêchés d'exécuter un test de charge non cadencé. Vercel indique que l'achat de crédits lève les limites du niveau gratuit et que la passerelle ne limite pas le débit des requêtes payantes. Nous n'avons pas vérifié ce point. agentgateway a rencontré des difficultés avec les réponses en streaming volumineuses : avec de très longs documents, une instance a commencé à se dégrader à environ 30 requêtes par seconde. Les petites requêtes en streaming ont fonctionné sans problème à toutes les charges testées.
Tarification
agentgateway ne coûte rien au-delà de votre infrastructure et des personnes qui s'en occupent. Une instance avec des budgets par clé, le masquage des PII et l'autorisation MCP est gratuite. Solo Enterprise pour agentgateway ajoute des limites de débit à l'échelle du cluster, une ressource de budget, une interface de gestion des coûts, la gestion de l'identité pour le compte de tiers (on-behalf-of), des builds FIPS et un support technique. Vous obtenez un devis auprès de l'équipe commerciale, car il n'existe pas de grille publique. Notre analyse de la tarification de la passerelle IA de Solo rassemble ce que nous avons pu trouver.
Vercel ne facture aucune marge sur les tokens, même ceux facturés sur vos propres clés de fournisseur, et chaque équipe bénéficie d'un crédit mensuel gratuit pour certains modèles. Pour utiliser vos propres clés, vous devez d'abord acheter des crédits. C'est sur les fonctionnalités de gouvernance que la facture s'allonge :
Sur Vercel, le routage ne coûte presque rien. Les frais proviennent des contrôles que votre équipe de sécurité voudra activer, évaluez-les donc bien avant de vous engager. Sur agentgateway, la licence peut être gratuite. Ce que vous payez, c'est le temps d'ingénierie, plus l'édition enterprise une fois que vous déployez plusieurs instances.
Pièges à connaître
Les budgets Vercel sont des plafonds souples. La requête qui dépasse la limite s'exécute tout de même jusqu'au bout, et les dépenses effectuées sur vos propres clés de fournisseur ne comptent pas du tout dans les budgets de la passerelle. Les budgets par clé d'agentgateway laissent également se terminer la requête qui franchit le seuil.
Vercel vous facture lorsque votre propre clé échoue. Si une requête effectuée avec la clé de votre fournisseur échoue, Vercel la réessaie avec ses propres identifiants et débite votre solde de crédits. Définissez des limites de dépense auprès de votre fournisseur ainsi qu'au niveau de la passerelle.
Ne faites pas de tests de charge sur le niveau gratuit de Vercel. Vercel documente des limites de niveau gratuit par modèle, mais lors de nos tests, la limite s'est comportée comme si elle couvrait l'ensemble du compte. Changer de modèle n'a pas réinitialisé la limite, et disposer de crédits gratuits restants n'a pas permis de contourner le problème. Achetez des crédits avant de procéder à une évaluation réelle.
agentgateway effectue un appel de plus que ce que suggère la documentation. Un paramètre de réessai défini sur 1 signifie deux appels au fournisseur, et les réessais sont envoyés sans délai, sauf si vous configurez une temporisation (backoff).
Les flux en streaming d'agentgateway peuvent se bloquer. Définissez responseIdleTimeout sur les routes en streaming. Cette option a été introduite dans la v1.6.0 et couvre également les réponses MCP à partir de la v1.7.0. Sans elle, un fournisseur qui interrompt son émission au milieu d'un flux maintient la connexion ouverte aussi longtemps que le client accepte d'attendre.
Les limites gratuites d'agentgateway s'appliquent par instance. Les budgets et les limites de débit ne se cumulent pas sur l'ensemble des répliques, sauf si vous achetez l'édition enterprise, ce qui est facile d'oublier jusqu'à ce que vous passiez à l'échelle.
Quand choisir Vercel AI Gateway
- Vous souhaitez que quelqu'un d'autre gère la passerelle.
- La majeure partie de votre trafic provient d'appels de modèles effectués par des applications, et vos outils s'exécutent au sein de ces applications.
- Un service hébergé conforme aux normes SOC 2 Type 2, ISO 27001 et proposant une inférence régionale par le fournisseur répond à vos exigences de conformité.
- Vous développez déjà sur Vercel ou avec le SDK AI.
Quand choisir agentgateway
- La passerelle doit s'exécuter dans votre propre réseau, y compris dans un environnement isolé (air-gapped).
- Vous gérez des agents qui appellent des outils MCP et d'autres agents, et avez besoin d'un contrôle d'accès par outil.
- Vous souhaitez bénéficier du masquage des PII et des vérifications d'identité sans surcoût, et vous disposez d'une équipe plateforme pour gérer la passerelle.
- Vous acheminez du trafic vers des modèles auto-hébergés aux côtés de fournisseurs commerciaux.
L'alternative TrueFoundry
Vercel gérera la passerelle pour vous, mais uniquement sur son propre cloud. agentgateway s'exécute n'importe où, mais c'est à vous de l'exploiter, et le partage d'état entre les instances entraîne un coût supplémentaire. La passerelle AI Gateway de TrueFoundry répond à ces deux besoins. Vous pouvez l'utiliser comme un service SaaS géré, exécuter la passerelle dans votre VPC avec un plan de contrôle que nous hébergeons, ou l'auto-héberger dans votre VPC, sur site ou en environnement isolé. Les pods de la passerelle reçoivent la configuration et les règles d'accès depuis le plan de contrôle en temps réel, ainsi que les compteurs de limite de débit et de budget agrégés de manière centralisée, afin que les limites s'appliquent sur l'ensemble des répliques sans mise à niveau payante.
Elle met à votre disposition plus de 1 000 LLM derrière une API unique compatible OpenAI, achemine les requêtes vers des modèles auto-hébergés depuis le même plan de contrôle et gouverne le trafic LLM, MCP et d'agents avec un contrôle d'accès au niveau des outils. Elle peut également exiger une validation humaine avant l'exécution d'appels d'outils destructeurs. Les budgets peuvent être définis par équipe, par modèle ou par compte de fournisseur, et le SSO, le RBAC ainsi que la journalisation d'audit sont intégrés d'origine. Si vous hésitez entre un routeur géré et une passerelle d'agents auto-hébergée, découvrez comment TrueFoundry AI Gateway gère ces deux aspects, ou réservez une démonstration.
Lectures associées
- agentgateway (anciennement Gloo AI Gateway) : une évaluation sans concession
- Tarification de Solo AI Gateway : une analyse complète
- Concurrents et alternatives à Solo.io
- Qu'est-ce qu'une passerelle d'agents ?
- L'authentification MCP expliquée
- Les meilleures passerelles MCP
Conclusion
Le choix se résume à deux questions : qui exploite la passerelle, et quel trafic doit-elle contrôler ? Si vous souhaitez un routage de modèles géré sans marge appliquée sur les tokens, et qu'un service hébergé respecte vos règles de confidentialité des données, Vercel AI Gateway constitue la voie la plus simple. Si la passerelle doit résider dans votre propre réseau ou que vos agents nécessitent un contrôle d'accès par outil, agentgateway est le choix le plus adapté. Si vous avez besoin de combiner ces avantages, réservez une démonstration de TrueFoundry.
TrueFoundry AI Gateway offre une latence d'environ 3 à 4 ms, gère plus de 350 RPS sur 1 processeur virtuel, évolue horizontalement facilement et est prête pour la production, tandis que LiteLM souffre d'une latence élevée, peine à dépasser un RPS modéré, ne dispose pas d'une mise à l'échelle intégrée et convient parfaitement aux charges de travail légères ou aux prototypes.













.webp)








