Blank white background with no objects or features visible.

NOVA PESQUISA: 80% dos custos de IA são invisíveis na fatura. Mais de 200 líderes revelam para onde o dinheiro vai. Leia→

Como
Escalas
Agentes Multi-Modelo com
TrueFoundry

A Adopt AI constrói IA agente de nível empresarial em sistemas modernos e legados.
Usando o AI Gateway da TrueFoundry, a plataforma unifica o acesso a LLMs de múltiplos provedores, lidando com mais de 15 milhões de solicitações e mais de 40 bilhões de tokens de entrada centralmente.

Quer saber mais sobre este sucesso

Fale com nosso especialista
arrow1
Colorful logo with stylized letters a, p, d, and o in blue, yellow, pink, and red.
Essa estratégia multi-modelo era essencial para o desempenho e a qualidade, mas introduziu fragmentação no acesso, observabilidade, rastreamento de custos e gerenciamento de confiabilidade. Ao adotar o AI Gateway da TrueFoundry, a Adopt AI estabeleceu um plano de controle único e centralizado para todo o tráfego de LLM. O Gateway agora alimenta o acesso unificado a modelos, monitoramento em tempo real, roteamento sensível à latência e visibilidade de custos em centenas de milhares de solicitações de produção, sem exigir alterações no nível do aplicativo.
Sobre
Adopt logo with interconnected colorful circles and text on white background symbolizing unity and adoption.
A Adopt AI permite que as empresas construam e implementem fluxos de trabalho de agentes que integram APIs, processos de negócios e conteúdo empresarial em sistemas modernos e legados. Sua ingestão Zero-Shot e infraestrutura de agentes permitem que as equipes modernizem aplicativos sem interromper as arquiteturas existentes, oferecendo experiências de agentes seguras e de nível de produção em escala.
À medida que os clientes adotavam fluxos de trabalho de agentes cada vez mais complexos, a plataforma da Adopt AI começou a lidar com interações de IA de alto volume e sensíveis à latência em várias equipes e ambientes.

Construindo uma Base de IA Agente Multi-Modelo com Controle Centralizado

À medida que a plataforma de agentes da Adopt AI amadurecia, surgiram vários desafios:

Complexidade multi-modelo

À medida que a plataforma de agentes da Adopt AI amadurecia, a empresa tomou a decisão deliberada de operar com múltiplos provedores de LLM. Diferentes fluxos de trabalho exigiam diferentes compensações entre qualidade, latência, disponibilidade e custo, e nenhum modelo único poderia atender a todos os casos de uso de forma eficaz.
Saiba Mais

Possibilitando Rastreamento Unificado e Tomada de Decisão

Sem uma camada centralizada de acesso à IA, a observabilidade estava fragmentada em painéis específicos de cada provedor. Era difícil responder a perguntas críticas em tempo real:
  • Quais modelos estão sendo usados e por quem?
  • Quantas requisições estão fluindo pelo sistema?
Saiba Mais

Riscos de custo e confiabilidade

Picos de uso de tokens, latência P99 elevada e problemas do lado do provedor poderiam impactar diretamente a capacidade de resposta do agente, mas diagnosticar e corrigir esses problemas entre os provedores era lento e manual.
Saiba Mais

Complexidade multimodelos

À medida que a plataforma de agentes da Adopt AI amadurecia, a empresa tomou a decisão deliberada de operar com múltiplos provedores de LLM. Diferentes fluxos de trabalho exigiam diferentes compensações entre qualidade, latência, disponibilidade e custo, e nenhum modelo único poderia atender a todos os casos de uso de forma eficaz.
Saiba Mais

Habilitando Rastreamento Unificado e Tomada de Decisão

Sem uma camada centralizada de acesso à IA, a observabilidade era fragmentada em painéis específicos de cada provedor. Era difícil responder a perguntas críticas em tempo real:
  • Quais modelos estão sendo usados e por quem?
  • Quantas requisições estão fluindo pelo sistema?
Saiba Mais

Riscos de custo e confiabilidade

Picos de uso de tokens, latência P99 elevada e problemas do lado do provedor poderiam impactar diretamente a capacidade de resposta do agente, mas diagnosticar e corrigir esses problemas entre os provedores era lento e manual.
Saiba Mais
“Para nós, o TrueFoundry AI Gateway representa uma abstração completa. Nossas aplicações nunca se comunicam diretamente com os provedores de modelos. Podemos alternar modelos, gerenciar o controle de fluxo e rastrear o comportamento de forma centralizada, sem alterar o código. Essa separação é fundamental à medida que escalamos os fluxos de trabalho de agentes para todos os clientes.”
 — Rahul Bhattacharya, Cofundador e CTO, Adopt AI

Solução: TrueFoundry AI Gateway como o Plano de Controle Central

A Adopt AI padronizou todas as interações LLM através do AI Gateway da TrueFoundry, tratando-o como uma camada de abstração rigorosa entre aplicações e fornecedores de modelos. As aplicações já não interagem diretamente com fornecedores individuais de LLM; em vez disso, todos os pedidos fluem através de um único gateway que impõe o encaminhamento, o rastreamento e a seleção de fornecedores de forma centralizada

Acesso unificado entre fornecedores

O Gateway oferece uma interface consistente para modelos da OpenAI, Anthropic, Google Vertex, AWS Bedrock e Groq. As equipas podem integrar novos modelos ou desativar os existentes de forma centralizada, sem alterar o código da aplicação.
Saber Mais

Observabilidade centralizada

Todos os pedidos fluem através do Gateway, permitindo visibilidade em tempo real sobre:
  • Total de pedidos: mais de 15M nos últimos 90 dias
  • Uso de tokens: ~40B tokens de entrada e ~2.2B tokens de saída
  • Métricas de latência: incluindo P50, P90 e P99
Saber Mais

Riscos de custo e fiabilidade

Picos de uso de tokens, latência P99 elevada e problemas do lado do fornecedor podiam impactar diretamente a capacidade de resposta do agente, mas diagnosticar e corrigir esses problemas entre os fornecedores era lento e manual.
Saber Mais

Complexidade multi-modelo

À medida que a plataforma de agentes da Adopt AI amadurecia, a empresa tomou a decisão deliberada de operar com múltiplos fornecedores de LLM. Diferentes fluxos de trabalho exigiam diferentes compromissos entre qualidade, latência, disponibilidade e custo, e nenhum modelo único conseguia atender a todos os casos de uso de forma eficaz.
Saber Mais

Ativando o Rastreamento Unificado e a Tomada de Decisão

Sem uma camada centralizada de acesso à IA, a observabilidade estava fragmentada em painéis de controlo específicos de cada fornecedor. Era difícil responder a perguntas críticas em tempo real:
  • Quais modelos estão a ser usados, e por quem?
  • Quantos pedidos estão a fluir pelo sistema?
Saiba mais

Riscos de custo e confiabilidade

Picos de uso de tokens, latência P99 elevada e problemas do lado do provedor poderiam impactar diretamente a capacidade de resposta do agente, mas diagnosticar e corrigir esses problemas entre os provedores era lento e manual.
Saiba mais
Blue outlined rectangles with OpenAI, ANTHROPIC, Vertex AI, AWS Bedrock, and logos listed.

Por que é importante para a IA Agentiva

Sistemas agentivos são tão confiáveis quanto a infraestrutura que controla suas interações com os modelos. Para a Adopt AI, o AI Gateway tornou-se a base que permitiu:

  • Flexibilidade multimodelos sem caos
  • Tráfego de agentes de alto volume sem pontos cegos
  • Otimização de custo e latência sem desacelerar a inovação

Ao centralizar as interações de LLM na camada de Gateway, a Adopt AI preservou a flexibilidade sem sacrificar o controle. A plataforma agora suporta experimentação rápida entre modelos, comportamento operacional previsível sob carga e um caminho claro para escalar fluxos de trabalho agentivos, tudo isso mantendo a complexidade fora do código da aplicação.

Grey wavy lines on white background, abstract wave pattern with multiple curved lines intersecting smoothly.

Infra de GenAI - simples, mais rápida, mais barata

Confiado por mais de 10 empresas da Fortune 500

Experimente agora
Blank white background with no visible objects or text present.
Fale com especialistas
Blank white background with no visible objects or text present.