IA Hospedada na UE vs Auto-Hospedada: Quem Opera Seu Control Plane?
.webp)
Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support
Em junho de 2025, um executivo da Microsoft França disse a uma comissão de inquérito do Senado francês, sob juramento, que não podia garantir que os dados do setor público francês nunca seriam repassados às autoridades dos EUA sem a aprovação da França. Suas palavras foram: "Não, não posso garantir." Ele acrescentou que isso nunca havia acontecido.
Essa conversa é a razão pela qual "hospedado na UE" não resolve mais uma discussão de aquisição de IA. Todos os fornecedores que vendem para a Europa podem dizer isso. Muito poucos podem dizer quem opera o sistema pelo qual seus prompts passam, quem detém as chaves e quem poderia ser obrigado a entregar qualquer informação.
A hospedagem na UE diz onde seus dados estão localizados. A auto-hospedagem diz quem os controla. Para um AI gateway, a camada pela qual toda chamada de modelo passa, essa diferença decide a maior parte de um questionário de fornecedores.
Neste blog, você aprenderá o que separa o control plane do data plane, onde seus dados são processados durante uma única chamada de IA, se a hospedagem na UE o protege do US CLOUD Act, o que o DORA muda para bancos e seguradoras e como avaliar um AI gateway soberano.

Control Plane vs Data Plane: A Distinção Que Decide Tudo
Todo AI gateway possui duas partes.
O data plane é por onde as requisições fluem. Um prompt chega, o gateway autentica quem está chamando, aplica políticas, encaminha a chamada para um modelo e retorna a resposta. Ele carrega o conteúdo, sendo a parte mais sensível da sua pilha de IA.
O control plane é onde as regras residem: quais equipes podem chamar quais modelos, quais guardrails se aplicam, como os orçamentos e limites de taxa (rate limits) são definidos. Ele armazena configurações, identidades e políticas, enviando-as para o data plane.
Isso produz três formatos comuns de implantação:
- SaaS hospedado na UE. O fornecedor opera ambos os planes em um data center europeu. Seus prompts, logs e políticas ficam na infraestrutura dele.
- Híbrido. O gateway roda na sua própria conta de nuvem ou VPC, portanto o tráfego de LLM permanece na sua infraestrutura. O fornecedor hospeda o control plane que armazena as configurações e políticas.
- Auto-hospedado (Self-hosted). Ambos os planes rodam no seu ambiente. O fornecedor fornece o software e você o opera.
Seus dados podem estar na Europa em todas as três opções. Apenas na terceira opção cada parte do caminho roda em uma infraestrutura que você controla.

Onde Meus Dados São Processados? Cada Etapa em uma Chamada de AI Gateway
Pergunte a um fornecedor onde seus dados são processados e você geralmente ouvirá uma resposta: uma região. Uma única chamada de gateway toca vários pontos, e cada um tem sua própria resposta.
- Autenticação. Quem está fazendo a chamada e o que é registrado sobre essa pessoa/sistema.
- Guardrails de entrada. Detecção de PII e checagens de prompt injection, que alguns gateways repassam para um serviço separado.
- Cache semântico. Uma cópia armazenada de prompts e respostas.
- Roteamento de modelos. A etapa que a configuração de região geralmente controla.
- Guardrails de saída. A mesma questão da etapa dois, no caminho de volta.
- Logs e traces. Prompts e completions completos são frequentemente gravados aqui para depuração (debugging), o que pode tornar este o maior repositório de dados sensíveis de IA que você possui.
- Medição (Metering). Dados de uso e custo enviados para faturamento e análise.
Em um gateway hospedado na UE, a maioria dessas etapas roda na infraestrutura do fornecedor. Em um gateway auto-hospedado, elas rodam na sua.
Uma ressalva se aplica a todas as opções: um gateway não altera para onde o roteamento do modelo envia uma requisição. Se você rotear um prompt para um modelo hospedado nos EUA, ele irá para os EUA. O que você ganha é a capacidade de aplicar a regra você mesmo, como permitir apenas modelos da região da UE para determinadas equipes, e verificar os logs posteriormente. A TrueFoundry avalia restrições de residência antes do roteamento e seleciona apenas endpoints de modelos elegíveis para a região permitida da carga de trabalho.

A Hospedagem na UE Protege Você do US CLOUD Act?
Por si só, não.
O CLOUD Act, assinado em 2018, exige que provedores sob a jurisdição dos EUA divulguem dados sob sua "posse, custódia ou controle", independentemente de estarem armazenados dentro ou fora dos Estados Unidos. Se uma empresa norte-americana opera seu gateway, um data center em Frankfurt muda onde os dados estão localizados. Não muda quais solicitações judiciais podem alcançar a empresa que o opera.
Nuvens soberanas operadas por empresas europeias reduzem essa exposição. Se elas a eliminam completamente é uma questão para sua equipe jurídica.
O argumento estrutural é mais simples. Um provedor só pode ser obrigado a fornecer o que possui ou controla. Se o seu gateway, logs e chaves rodam na sua infraestrutura e o fornecedor não tem acesso permanente a eles, há muito menos para qualquer autoridade exigir. Muito menos não é nada: um fornecedor ainda recebe o que quer que seu software envie de volta, e é por isso que o checklist abaixo pergunta exatamente o que sai do seu ambiente.

IA Soberana para Bancos Europeus: O Que o DORA Muda
Desde 17 de janeiro de 2025, o Regulamento de Resiliência Operacional Digital (DORA, Regulamento (UE) 2022/2554) aplica-se a bancos, seguradoras, empresas de investimento, instituições de pagamento e outras entidades financeiras da UE. Suas regras para terceiros exigem um registro de todos os arranjos de ICT, cláusulas contratuais específicas, uma avaliação de risco de concentração e estratégias de saída testadas para provedores por trás de funções críticas. A entidade financeira continua responsável pelo risco, seja quem for o fornecedor do serviço.
Um AI gateway fica à frente de cada chamada de modelo que a empresa faz. Se um fornecedor o opera, um provedor externo fica no caminho de todo o tráfego de IA e detém os logs que um supervisor pode solicitar para inspeção. Ele pertence ao registro e à avaliação de risco de concentração.
A auto-hospedagem não remove o fornecedor do registro, porque você ainda licencia o software dele. Ela muda o que o plano de saída precisa cobrir. Como os logs e as configurações já estão em seu próprio domínio, deixar o fornecedor torna-se uma migração de software em vez de uma extração de dados.

O Que É um AI Gateway Soberano? Um Checklist para Compradores
Um AI gateway soberano é aquele em que você opera o caminho da requisição e pode mostrar exatamente o que sai do seu ambiente. Use estes critérios para testar qualquer fornecedor, incluindo nós.

Como a TrueFoundry Lida com Cada Formato de Implantação
A TrueFoundry oferece todos os três formatos de implantação. O gateway SaaS gerenciado tem seu control plane hospedado na Irlanda. Em uma configuração híbrida, você opera o gateway plane e a TrueFoundry hospeda o control plane. Em uma instalação auto-hospedada, o control plane e o AI Gateway rodam como um Helm chart em seu próprio cluster Kubernetes, e as instalações air-gapped não possuem dependências de rede de saída em tempo de execução.
Para as questões de soberania acima, os formatos auto-hospedados e air-gapped respondem a elas integralmente. Em uma instalação auto-hospedada, suas configurações, segredos, prompts, respostas, logs e traces permanecem na sua infraestrutura. O software envia apenas metadados de licenciamento e analytics de saída para a TrueFoundry, como e-mails de login, contagem de uso e custos por hora, contagem de configurações e informações de versão, juntamente com logs de erro e falhas do control plane. Os logins de usuários passam pelo servidor de autenticação da TrueFoundry, a menos que você conecte seu provedor de identidade diretamente. Os payloads exatos estão documentados, e o conteúdo de prompts e respostas nunca é incluído.

Executar o gateway por conta própria não custa velocidade. As verificações de política rodam em memória, sem chamadas externas no caminho da requisição. No benchmark publicado pela TrueFoundry, um pod de gateway em uma única vCPU adicionou cerca de 3 ms de latência a 250 requisições por segundo e escalou para aproximadamente 350 requisições por segundo antes da saturação de CPU.
A Staffbase, uma plataforma de experiência do funcionário sediada em Chemnitz, Alemanha, e Nova York, reúne 141 implantações de modelos em nove regiões atrás de um único endpoint. Ela opera gateways regionais separados para a Europa, EUA e Austrália, de modo que as requisições sejam atendidas a partir da geografia correta para fins de residência de dados e latência.
Conclusão
"Hospedado na UE" responde a uma pergunta sobre residência de dados. Soberania pergunta quem opera o sistema, quem detém as chaves e o que sai do seu ambiente.
Se essas respostas importam para seus compradores ou para o seu órgão regulador, peça-as por escrito e teste cada fornecedor em relação ao checklist acima, incluindo a TrueFoundry. Nós publicamos o que uma instalação auto-hospedada envia de volta e preferimos que você verifique isso em vez de apenas confiar em nossa palavra.
Agende uma demonstração para ver pessoalmente uma instalação auto-hospedada da TrueFoundry e seu tráfego de saída.
TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.














.webp)







