A Aviva Credito é uma credora sediada no México, focada em expandir o acesso ao crédito. Para alcançar clientes que bancos tradicionais e fintechs totalmente online têm dificuldade em atender, a Aviva opera pequenos quiosques físicos apoiados por uma experiência de integração automatizada e otimizada para tablets – construindo confiança e, ao mesmo tempo, reduzindo o risco de fraude.
À medida que as iniciativas de IA da Aviva cresciam de modelos de visão computacional para chatbots de nível de produção e fluxos de trabalho de verificação de documentos, a equipa enfrentava dois desafios recorrentes: (1) implantar e operar serviços LLM sem exigir profundo conhecimento em Kubernetes, e (2) gerenciar múltiplos provedores LLM com observabilidade consistente, controle de custos e agilidade.
Ao usar o Deployment e o AI Gateway da TrueFoundry, a Aviva capacitou cada engenheiro de ML/IA a entregar serviços de produção de forma independente, Observabilidade em provedores de modelos Azure e GCP, e criou uma base escalável para segurança e fluxos de trabalho agentivos.
.webp)
A missão da Aviva é aumentar o acesso ao crédito para comunidades carentes no México. O modelo da Aviva combina uma presença física, pequenos quiosques com um único funcionário, mantendo todo o processo automatizado por meio de tablets para oferecer o melhor dos dois mundos: alta confiança e menor fraude, com a velocidade da automação.
O primeiro grande ponto de inflexão da Aviva surgiu de uma necessidade prática: implantar um modelo LLM para reconhecer os cartões de identidade INE do México. A equipe de ML podia ajustar/construir o modelo, mas entregá-lo de forma confiável exigia um caminho operacional que eles ainda não possuíam. As primeiras tentativas variaram de implantações manuais baseadas em VM (lentas e propensas a erros) a serviços gerenciados que ou não tinham suporte a GPU ou falhavam em entregar rapidamente.
A experiência de implantação do TrueFoundry mudou isso: logs claros e sidecars de observabilidade revelaram a causa raiz por trás de um contêiner com falha, permitindo que a equipe corrigisse a imagem e implantasse com sucesso em menos de uma hora.
.png)

.webp)
.png)
Ao centralizar todo o tráfego de LLM através do AI Gateway da TrueFoundry, a Aviva obteve visibilidade e controle de ponta a ponta em uma pilha de IA multi-nuvem em rápida expansão. Durante um período de 90 dias, a equipe gerenciou quase meio milhão de requisições em produção e mais de 1,8 bilhão de tokens de entrada com custo previsível, confiabilidade mensurável e velocidade de engenharia significativamente aprimorada. O Gateway permitiu a detecção rápida de anomalias de custo e latência, roteamento e failover em nível de modelo sem alterações na aplicação, e uma abstração compartilhada que permitiu aos engenheiros implantar, atualizar e operar serviços baseados em LLM de forma independente.
.avif)
Confiado por mais de 10 empresas da Fortune 500