TrueFoundry vs Vercel AI Gateway: simplicidade gerenciada vs controle de implantação para 2026
.webp)
Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support

Tanto o TrueFoundry quanto o Vercel AI Gateway colocam um único endpoint à frente de múltiplos provedores de modelos, e ambos fazem o trabalho básico muito bem: uma única API key, roteamento de provedores, rastreamento de uso e controles de gastos. A comparação fica mais interessante quando você pergunta onde o gateway é executado e quem precisa aprová-lo. O Vercel AI Gateway é um serviço hospedado que você chama. O TrueFoundry é um gateway que você pode executar em qualquer lugar, desde um SaaS totalmente gerenciado até uma VPC air-gapped. Se você é um engenheiro de aplicações de AI que deseja um único endpoint gerenciado, essa diferença pode não importar muito. Se você faz parte de uma equipe de plataforma ou compliance responsável por aprovar por onde os prompts trafegam, essa é a decisão principal.
Esta comparação analisa ambos os produtos sob a perspectiva de um líder de engenharia avaliando-os para produção: implantação, cobertura de modelos, governança de agentes e MCP, controle de custos e compliance. Tudo sobre o Vercel aqui vem de sua documentação pública de setembro de 2026. Tudo sobre o TrueFoundry vem de nossa própria documentação. Onde não pudemos confirmar algo, deixamos claro em vez de adivinhar. Se você quiser entender o contexto básico desta categoria primeiro, comece com nosso guia sobre o que é um LLM gateway.
Vercel AI Gateway: visão geral
O Vercel AI Gateway é um roteador gerenciado que fica entre sua aplicação e os provedores de modelos, centralizando credenciais, relatórios de uso e controles de gastos por trás de um único endpoint compatível com OpenAI. Ele atingiu disponibilidade geral em agosto de 2025 e evoluiu a partir da plataforma web e do AI SDK da Vercel. O serviço roda na própria infraestrutura da Vercel em ai-gateway.vercel.sh, portanto não há gateway para você implantar ou dimensionar.
Sua proposta econômica é o grande destaque. A Vercel divulga uma taxa adicional de 0% sobre tokens, inclusive quando você traz suas próprias chaves de provedor (BYOK), e uma camada gratuita com 5 USD por mês em créditos para um subconjunto de modelos. O catálogo abrange centenas de modelos entre provedores como OpenAI, Google Vertex AI e Amazon Bedrock, com suporte documentado para chat, streaming, embeddings, function calls e structured outputs. Métricas nativas cobrem volume de requisições, uso de tokens, gastos, latência e roteamento, e os traces são exportados via OTLP/HTTP. A Vercel afirma que o Gateway alimenta o v0, seu próprio produto, o que é um sinal razoável de uso real, mesmo que as alegações de escala sejam do próprio fornecedor.
Onde ele exige adaptações é na implantação e governança. Não há forma documentada de executar o Gateway por conta própria, na sua VPC ou em ambiente air-gapped. O endpoint hospedado é o produto. SSO é um add-on pago, provisionamento de diretório e exportação de auditoria estão restritos ao plano Enterprise, e uma camada unificada de autorização de ferramentas para MCP dentro do Gateway não é algo estabelecido na documentação atual.
Ideal para: equipes de aplicação, especialmente aquelas que já usam a Vercel, que desejam roteamento gerenciado de provedores e visibilidade de uso sem operar a infraestrutura de gateway.
TrueFoundry: visão geral
O TrueFoundry é um AI gateway que unifica mais de 1.000 LLMs por trás de uma única API compatível com OpenAI, e é executado onde quer que suas exigências de compliance determinem. Você aponta o SDK do seu provedor existente para a URL base do gateway em vez de importar um cliente proprietário, o que mantém o código da aplicação muito próximo do que sua equipe já escreve. O conjunto de recursos reside no produto AI Gateway.

A parte que costuma decidir os acordos enterprise é a implantação. O TrueFoundry oferece quatro modos: SaaS totalmente gerenciado, SaaS gerenciado com seu próprio armazenamento de dados, um modelo híbrido onde o data plane do gateway roda dentro da sua VPC enquanto hospedamos o control plane, e uma instalação totalmente auto-hospedada onde tudo fica na sua VPC ou on-premises, incluindo ambientes air-gapped. Nos modos VPC, os prompts nunca saem da sua rede. O gateway adiciona cerca de 3 a 4 ms de overhead e suporta mais de 350 RPS em uma única vCPU, mantendo-se no caminho principal sem se tornar o gargalo.
Além do roteamento, o TrueFoundry governa mais do que chamadas de modelos. Ele inclui um MCP gateway e um agent gateway com RBAC no nível de ferramentas e guardrails pré e pós-execução de ferramentas, além de um registro para servidores MCP e agentes. A implantação de modelos e o gateway compartilham o mesmo control plane, portanto, um endpoint auto-hospedado em vLLM, TGI ou Triton é um destino de primeira classe, e não uma solução improvisada. Suporte a SOC 2, HIPAA e GDPR, além de SSO, RBAC e logs de auditoria já vêm integrados.
Ideal para: setores regulados e equipes de plataforma que precisam manter o caminho dos dados, endpoints de modelos e governança de agentes sob seu próprio controle.
As dimensões que os diferenciam
Cobertura de provedores e uma API compatível com OpenAI são requisitos básicos atualmente. Ambos os produtos cumprem esse papel. As dimensões abaixo são as que costumam decidir em qual plataforma uma implantação em produção realmente será lançada.
- Implantação e caminho dos dados (data path). Se os prompts podem permanecer dentro da sua própria rede e se você pode executar o gateway. Esta é a diferença mais marcante entre os dois.
- Cobertura de modelos e endpoints. Não apenas quantos modelos hospedados estão no catálogo, mas se você pode rotear para seus próprios endpoints de modelos auto-hospedados através do mesmo gateway.
- Governança de MCP e agentes. Se o gateway controla quais ferramentas um agente pode chamar, com identidade e políticas, ou se a execução da ferramenta permanece na aplicação.
- Semântica de controle de custos. O que a precificação realmente mede e quais controles são gratuitos versus restritos por plano.
- Postura de compliance. Quais certificações são contratuais e se a auto-hospedagem transfere a responsabilidade para você.
Comparação direta
Os recursos do TrueFoundry vêm de nossa documentação de produto. Os recursos da Vercel refletem sua funcionalidade publicamente documentada em setembro de 2026. Os dois números de latência abaixo usam métodos diferentes e não são diretamente comparáveis, por isso identificamos cada um.
Quando escolher o Vercel AI Gateway
O Vercel é uma escolha adequada quando o modelo hospedado atende às suas restrições. Escolha-o se sua stack já reside na Vercel e você deseja que o fluxo OIDC do Gateway seja integrado com configuração mínima. Escolha-o se sua prioridade for o roteamento gerenciado com zero de taxa adicional em tokens e se os controles necessários forem cobertos pelos planos inclusos. E escolha-o se você deseja especificamente que o Gateway não capture o corpo dos prompts e das respostas (completions), o que é o padrão documentado e pode ser uma vantagem de privacidade por si só. Um ponto honesto: a simplicidade gerenciada não é exclusiva da Vercel, pois o TrueFoundry também oferece uma opção SaaS totalmente gerenciada.
Quando escolher o TrueFoundry
O TrueFoundry é a resposta mais forte quando o controle é um requisito, e não uma preferência. Escolha-o se os prompts não puderem sair da sua VPC, ou se você precisar de uma implantação air-gapped que um serviço exclusivamente hospedado não pode oferecer. Escolha-o se você roteia para modelos auto-hospedados juntamente com provedores comerciais e deseja um único gateway para ambos. Escolha-o se agentes fazem parte do projeto e você precisa de governança no nível de ferramentas sobre o que eles podem chamar. E escolha-o se a equipe de compras exige que o caminho dos dados, certificações e controles de acesso fiquem sob sua própria infraestrutura. Para entender como abordamos essas comparações, nossa análise sobre alternativas ao LiteLLM cobre o mesmo cenário para uma ferramenta diferente.
A realidade dos preços
A precificação da Vercel é incomumente transparente para esta categoria. O Gateway cobra 0% de taxa adicional sobre os tokens, com um plano gratuito de 5 USD por mês em créditos, e cobra recursos opcionais por uso: restrições de modelos e provedores a 0,10 USD por 1.000 requisições bem-sucedidas, retenção zero de dados para toda a equipe na mesma tarifa, gravações de relatórios a 0,075 USD por 1.000, consultas de relatórios a 5 USD por 1.000, e envio de traces a 0,05 USD por 1.000 mais custos de transferência de dados (egress). Os custos da plataforma ficam à parte: o Vercel Pro custa 20 USD por mês com um assento e 20 USD por assento adicional, o SAML SSO é um add-on de 300 USD por mês, e o BAA para HIPAA custa 350 USD por mês em planos elegíveis. O plano Enterprise requer um contrato personalizado. O ponto principal é que o roteamento é barato enquanto os recursos de governança são cobrados por uso; portanto, projete os custos com base nos recursos que você realmente ativará.
O TrueFoundry cobra por assento mais uso, não por token. O plano Developer é gratuito; o Pro custa $25 por usuário/mês com 20 mil requisições e chamadas de ferramentas incluídas por usuário, com excedente de $20 a cada 100 mil requisições adicionais. Implantações em VPC, on-prem, air-gapped e com residência de dados são exclusivas do plano Enterprise e cotadas sob medida; não há um valor fixo mensal publicado para uma implantação em VPC híbrida, e a infraestrutura onde ela roda faz parte dos seus próprios gastos com nuvem, que o TrueFoundry não estabelece nem cobra. Os termos Enterprise exigem um compromisso anual personalizado. A comparação que importa em escala é o custo total de propriedade (TCO): se uma única plataforma cobre o gateway, a implantação de modelos e a governança de agentes, ou se essas necessidades exigirão ferramentas e contratos separados.
Leitura relacionada
- Alternativas ao LiteLLM, como o TrueFoundry se compara para equipes em produção
- Melhor AI gateway, o panorama geral da categoria
- O que é um LLM gateway?, os conceitos fundamentais por trás deste artigo
- Observabilidade no AI gateway, aprofundando em tracing e gastos
- TrueFoundry vs Portkey, outra comparação direta na mesma categoria
Conclusão
A escolha entre TrueFoundry e Vercel AI Gateway é, em grande parte, uma escolha sobre onde o gateway reside. O Vercel AI Gateway é um roteador gerenciado eficiente para equipes que estão satisfeitas com um serviço hospedado e buscam um roteamento simples e sem taxa adicional sobre tokens. O TrueFoundry é ideal quando o caminho dos dados, os modelos auto-hospedados, a governança de agentes e o compliance precisam permanecer sob seu controle, com a opção de começar em um SaaS gerenciado e migrar para sua própria VPC conforme as exigências aumentarem. Se você está avaliando plataformas de AI gateway para produção em um ambiente regulado ou governado por equipes de plataforma, agende uma demonstração e mostraremos como o TrueFoundry atende aos seus requisitos de implantação e governança.
TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.


Recent Blogs
Frequently asked questions
Can I deploy TrueFoundry in my own VPC or on-prem?
Yes. TrueFoundry runs in your VPC, on-prem, air-gapped, or hybrid, and no data leaves your domain. This is a core reason regulated teams choose it over SaaS-only gateways.












.webp)







