agentgateway vs Vercel AI Gateway: self-hosted agent gateway of beheerde model-router?

Op papier doen agentgateway en Vercel AI Gateway hetzelfde werk. Beide plaatsen één OpenAI-compatibel endpoint voor een lange lijst van model-providers. In de praktijk zijn ze gebouwd voor verschillende kopers. Vercel AI Gateway is een gehoste dienst: u stuurt verzoeken naar Vercel, en Vercel beheert alles achter het endpoint. agentgateway, gestart door Solo.io en nu ondergebracht bij de Linux Foundation, is open-source software die u zelf installeert en beheert, en het beheert ook MCP-tool-calls en agent-to-agent-verkeer. Bepaal dus voordat u functies vergelijkt of u überhaupt een gateway wilt beheren, en hoeveel van uw verkeer afkomstig zal zijn van agents in plaats van apps.

We hebben beide gebruikt. Ons team heeft de open-source agentgateway-build hands-on getest (v1.5.0, met de belangrijkste bevindingen opnieuw gecontroleerd op v1.6.0), en we hebben onze eigen verzoeken via de gehoste gateway van Vercel laten lopen. Vervolgens hebben we elke claim hier gecontroleerd aan de hand van de documentatie van elke leverancier in november 2026, op welk moment agentgateway op v1.7.0 zat.

Vercel AI Gateway: overzicht

Vercel AI Gateway bevindt zich tussen uw app en de model-providers. Het bewaart uw authenticatiegegevens, houdt het gebruik bij en dwingt uitgavenlimieten af, allemaal achter één endpoint. Het werd algemeen beschikbaar in augustus 2025 en is ontstaan uit het webplatform en de AI SDK van Vercel. U kunt het aanroepen met OpenAI- of Anthropic-compatibele API's, de AI SDK of standaard HTTP, en uw app hoeft niet op Vercel te worden gehost. De catalogus bevat 400+ modellen van OpenAI, Anthropic, Google, Amazon Bedrock en anderen.

U hoeft niets uit te rollen. Vercel omschrijft de gateway als een Node.js-app op zijn eigen Fluid compute, met Redis in elke regio die quota bijhoudt, en niets daarvan is uw zorg. Het hield stand in onze tests. Verzoeken liepen via OpenAI, Google Vertex AI en Amazon Bedrock, tool-calls en strikte gestructureerde output kwamen geldig terug, en wanneer de primaire model-provider niet beschikbaar was, viel de gateway terug op het backupmodel dat we hadden ingesteld.

De prijsstelling is wat de meeste mensen als eerste opvalt. Vercel rekent 0% markup op tokens, zelfs wanneer u uw eigen provider-sleutels meeneemt, en elk team krijgt een maandelijkse gratis credit voor een selectie van modellen. Governance-functies kosten extra per verzoek, en teamfuncties zoals SAML single sign-on vereisen een Vercel-pakket. De adder onder het gras is waar het draait: Vercel documenteert geen enkele manier om de gateway uit te voeren in uw eigen VPC, on-premises of air-gapped. Als u nieuw bent in deze categorie, legt ons artikel over wat een LLM-gateway is de basis uit.

agentgateway: overzicht

agentgateway is geen update van Solo's oudere Gloo AI Gateway. Solo schreef een nieuwe proxy in Rust, publiceerde deze onder de Apache 2.0-licentie en droeg deze over aan de Agentic AI Foundation onder de Linux Foundation. Solo verkoopt nog steeds de betaalde editie, Solo Enterprise for agentgateway. U kunt het uitvoeren als één binary die één YAML-bestand leest, als een container, of op Kubernetes met een gescheiden control plane en data plane, waar het de Gateway API implementeert. Het is klein en snel. Ons team had het binnen 11 seconden na een koude start operationeel voor verkeer, het gebruikte ongeveer 18 MB geheugen bij inactiviteit, en op een netwerk zonder internetverbinding maakte het geen enkele call naar buiten.

Het verwerkt drie soorten verkeer met één beleidsmodel: LLM-calls, Model Context Protocol (MCP)-verkeer tussen agents en tools, en agent-to-agent (A2A)-calls. MCP-autorisatie is het onderdeel dat we het mooist vonden. U schrijft regels voor welke tools elke aanroeper mag gebruiken, en de gateway filtert ook de tool-lijst, zodat een agent nooit een tool ziet die hij niet mag aanroepen. De gratis editie valideert ook JWT's tegen uw identity provider, beperkt welke modellen elke sleutel mag gebruiken, dwingt uitgavenbudgetten per sleutel af en maskeert gevoelige gegevens zoals e-mailadressen en creditcardnummers voordat de prompt uw netwerk verlaat.

Solo rekent kosten voor alles wat over meerdere instanties moet worden gedeeld. Fleet-wide rate limits, een gedeelde budget-resource en één centraal kostengeschakeld overzicht zijn allemaal enterprise-functies. Onze agentgateway review gaat hier nog veel dieper op in.

Directe vergelijking

De kolom van agentgateway is gebaseerd op onze tests van de open-source build (v1.5.0, opnieuw gecontroleerd op v1.6.0) en de documentatie van Solo voor v1.7.0. De kolom van Vercel is afkomstig uit de openbare documentatie van Vercel en onze tests op een account met een gratis pakket. We hebben beide gecontroleerd in november 2026.

Waar Vercel AI Gateway sterker is

U hoeft niets te beheren. Er is geen cluster te dimensioneren en er zijn geen upgrades om rekening mee te houden. Dat maakt meer uit dan het lijkt: agentgateway brengt ongeveer elke maand een kleine release uit, en v1.6.0 alleen al bevatte vijf breaking changes.

De prijzen van Vercel zijn openbaar. De token-markup (nul), de kosten per functie en de pakketprijzen staan allemaal op de website. Solo heeft geen openbare prijslijst voor zijn enterprise-editie, en u kunt geen proefperiode starten zonder met sales te spreken.

Limieten gelden voor de gehele dienst. Vercel beheert één gateway voor iedereen, dus budgetten en quota blijven gehandhaafd ongeacht waar uw verkeer vandaan komt. Bij agentgateway vereisen budgetten en rate limits die meerdere instanties omvatten de enterprise-editie.

U krijgt 400+ modellen achter één sleutel. Verzoeken kunnen worden geordend of gesorteerd op provider, snelheid of kosten, en kunnen terugvallen op andere providers of modellen wanneer er één faalt.

Het bewaart uw prompts niet. De gateway van Vercel legt geen prompt- of completion-tekst vast, en u kunt zero data retention voor het hele team inschakelen of providers blokkeren die trainen op prompts.

Waar agentgateway sterker is

U kiest waar het draait: uw VPC, uw eigen datacenter of een air-gapped netwerk. Prompts gaan nooit door de gateway van een derde partij. De gateway van Vercel is alleen gehost beschikbaar.

Het begrijpt agents. MCP-regels per tool, tool-lijsten per aanroeper en A2A-ondersteuning maken allemaal gebruik van hetzelfde beleidsmodel als model-calls. Vercel laat het uitvoeren van tools, en eventuele regels over welke tools een agent mag aanroepen, over aan uw applicatie.

Het kan gevoelige gegevens verwijderen. Ingebouwde PII-maskering verwijdert zaken zoals e-mailadressen en creditcardnummers voordat een verzoek de provider bereikt. We hebben in de documentatie van Vercel niets vergelijkbaars gevonden.

Het communiceert met uw eigen modellen. Elk OpenAI-compatibel endpoint werkt als backend, inclusief vLLM of Ollama die op uw eigen hardware draaien. Vercel laat u uw eigen sleutel meenemen voor de providers die het ondersteunt, maar documenteert geen routing naar willekeurige private endpoints.

Het is open source onder een stichting. De code is Apache 2.0 en is ondergebracht in een Linux Foundation-project, dus de toekomst ervan hangt niet af van de plannen van Solo. Overstappen is ook goedkoop, omdat uw apps de standaard OpenAI API blijven gebruiken.

Prestaties

We kunnen deze twee niet op dezelfde manier testen, dus we zullen ze niet rangschikken. agentgateway draait op de hardware die u eraan toewijst. De gateway van Vercel is een gedeelde dienst, en de enige manier om deze te meten is vanaf de buitenkant.

Lees de cijfers van Vercel met zorg. Ze bevatten de round-trip naar het netwerk van Vercel, en dit schommelde behoorlijk: bij 21 van de 98 verzoekparen was de route via de gateway sneller dan het rechtstreeks aanroepen van OpenAI. Een model-call duurt meestal sowieso honderden milliseconden tot een paar seconden, dus geen van beide gateways zal snel uw bottleneck zijn. Voor streaming voegde agentgateway niet meer dan ongeveer 12 ms toe vóór het eerste token vergeleken met het rechtstreeks aanroepen van een live provider.

Beide hebben een zwak punt onder zware belasting. Het gratis niveau van Vercel liet ongeveer vier opeenvolgende verzoeken door voordat het HTTP 429 retourneerde, zonder Retry-After header, waardoor we geen ongedoseerde belastingstest konden uitvoeren. Vercel geeft aan dat het kopen van credits de limieten van het gratis niveau opheft en dat de gateway betaalde verzoeken niet rate-limited. We hebben dat niet getest. agentgateway had moeite met grote streaming-antwoorden: bij zeer lange documenten begon één instantie te verslechteren bij ongeveer 30 verzoeken per seconde. Kleine streaming-verzoeken liepen prima bij elke belasting die we hebben geprobeerd.

Prijzen

agentgateway kost niets buiten uw infrastructuur en de mensen die het onderhouden. Één instantie met budgetten per sleutel, PII-maskering en MCP-autorisatie is gratis. Solo Enterprise for agentgateway voegt fleet-wide rate limits, een budget-resource, een UI voor kostenbeheer, on-behalf-of-identiteit, FIPS-builds en ondersteuning toe. U krijgt een prijs op aanvraag via sales, omdat er geen openbare lijst is. Onze Solo AI gateway prijsanalyse bevat wat we hebben kunnen vinden.

Vercel rekent geen markup op tokens, zelfs niet op tokens die worden gefactureerd op uw eigen provider-sleutels, en elk team krijgt een maandelijkse gratis credit voor sommige modellen. Om uw eigen sleutels te gebruiken, moet u eerst credits kopen. De governance-functies zijn het punt waar de rekening oploopt:

Bij Vercel kost routing vrijwel niets. De kosten komen voort uit de beheersmaatregelen die uw beveiligingsteam ingeschakeld wil hebben, dus bereken die voordat u zich vastlegt. Bij agentgateway kan de licentie gratis zijn. Waar u voor betaalt is engineeringtijd, plus de enterprise-editie zodra u meerdere instanties gebruikt.

Belangrijke aandachtspunten

Budgetten bij Vercel zijn zachte limieten. Het verzoek dat de limiet overschrijdt wordt nog steeds voltooid, en uitgaven op uw eigen provider-sleutels tellen helemaal niet mee voor de Gateway-budgetten. De budgetten per sleutel bij agentgateway laten het overschrijdende verzoek eveneens afronden.

Vercel brengt kosten in rekening wanneer uw eigen sleutel faalt. Als een verzoek dat is gedaan met uw provider-sleutel mislukt, probeert Vercel het opnieuw met zijn eigen authenticatiegegevens en schrijft het dit af van uw credit-saldo. Stel uitgavenlimieten in bij uw provider én in de gateway.

Voer geen belastingstests uit op het gratis niveau van Vercel. Vercel documenteert limieten voor het gratis niveau per model, maar in onze tests gedroeg de limiet zich alsof deze het gehele account besloeg. Het wisselen van model resette de limiet niet, en het hebben van resterend gratis credit hielp niet. Koop credits voordat u een serieuze evaluatie uitvoert.

agentgateway maakt één call meer dan de documentatie suggereert. Een retry-instelling van 1 betekent twee calls naar de provider, en de retries worden zonder vertraging verzonden, tenzij u een backoff converteert.

Streams bij agentgateway kunnen blijven hangen. Stel responseIdleTimeout in op streaming routes. Dit werd geïntroduceerd in v1.6.0, en vanaf v1.7.0 geldt het ook voor MCP-antwoorden. Zonder dit blijft bij een provider die halverwege een stream stopt de verbinding zo lang openstaan als de client bereid is te wachten.

De gratis limieten van agentgateway gelden per instantie. Budgetten en rate limits tellen niet op over meerdere replica's, tenzij u de enterprise-editie koopt, wat u gemakkelijk over het hoofd ziet totdat u gaat opschalen.

Wanneer u kiest voor Vercel AI Gateway

• U wilt dat iemand anders de gateway beheert.
• Het meeste van uw verkeer bestaat uit model-calls vanuit apps, en uw tools draaien binnen die apps.
• Een gehoste dienst met SOC 2 Type 2, ISO 27001 en regionale provider-inferentie voldoet aan uw compliance-eisen.
• U bouwt al op Vercel of de AI SDK.

Wanneer u kiest voor agentgateway

• De gateway moet binnen uw eigen netwerk draaien, inclusief air-gapped.
• U gebruikt agents die MCP-tools en andere agents aanroepen, en u heeft toegangsbeheer per tool nodig.
• U wilt PII-maskering en identiteitscontroles zonder daarvoor te betalen, en u heeft een platformteam om de gateway te beheren.
• U routeert naar self-hosted modellen naast commerciële providers.

Het TrueFoundry-alternatief

Vercel beheert de gateway voor u, maar alleen in zijn eigen cloud. agentgateway draait overal, maar u beheert het zelf, en een gedeelde status over instanties heen kost extra. De TrueFoundry AI Gateway dekt beide scenario's af. U kunt het gebruiken als beheerde SaaS, de gateway in uw VPC uitvoeren met een control plane die wij hosten, of het self-hosten in uw VPC, on-premises of air-gapped. Gateway-pods ontvangen configuratie en toegangsregels in real-time van de control plane, samen met centraal samengevoegde rate-limit- en budgettellers, zodat limieten gelden over alle replica's zonder een betaalde upgrade.

Het biedt u 1.000+ LLM's achter één OpenAI-compatibele API, routeert naar self-hosted modellen vanaf dezelfde control plane, en beheert LLM-, MCP- en agent-verkeer met toegangsbeheer op tool-niveau. Het kan ook menselijke goedkeuring vereisen vóór destructieve tool-calls. Budgetten kunnen worden afgebakend per team, model of provider-account, en SSO, RBAC en audit logging zijn standaard ingebouwd. Als u twijfelt tussen een beheerde router en een self-hosted agent gateway, bekijk dan hoe de TrueFoundry AI Gateway beide afhandelt, of boek een demo.

Gerelateerde artikelen

• agentgateway (voorheen Gloo AI Gateway): een eerlijke review
• Solo AI gateway prijzen: een complete analyse
• Solo.io concurrenten en alternatieven
• Wat is een agent gateway?
• MCP-authenticatie uitgelegd
• Beste MCP-gateways

Conclusie

De keuze komt neer op twee vragen: wie beheert de gateway, en welk verkeer moet het controleren? Als u beheerde model-routing wilt zonder markup, en een gehoste dienst voldoet aan uw dataregels, dan is Vercel AI Gateway de eenvoudigste weg. Als de gateway binnen uw eigen netwerk moet draaien, of uw agents toegangsbeheer per tool nodig hebben, is agentgateway de betere keuze. Als u beide nodig heeft, boek dan een TrueFoundry-demo.