Integração n8n com o AI Gateway da TrueFoundry

O n8n é popular por ser fácil de usar. Você arrasta nós para uma tela e cria automações rapidamente. Muitas equipes agora adicionam etapas de IA a esses fluxos, como redigir respostas ou resumir texto.
À medida que esses fluxos de trabalho são incorporados às operações diárias, surgem novos problemas. As chaves de API acabam em muitos lugares. Cada fluxo de trabalho pode chamar um fornecedor de modelo diferente. O financeiro recebe várias faturas. A segurança perde um único rastro de auditoria. A engenharia tem dificuldade em trocar modelos em dezenas de fluxos.
O TrueFoundry AI Gateway resolve isso. Ele se torna o único local que gerencia políticas, limites de custo, roteamento e logs para cada chamada de LLM. Os desenvolvedores continuam usando o n8n da mesma forma. A plataforma, a segurança e o financeiro obtêm o controle de que precisam.

Por que esta integração é importante agora: Um exemplo do mundo real

Imagine um caso de uso comum: automação do suporte ao cliente. Em um fluxo de trabalho n8n, isso pode parecer simples. Um e-mail recebido é passado para um LLM para redigir uma resposta. O texto gerado é então enviado para um segundo modelo de análise de sentimento para sinalizar casos urgentes para revisão humana.

Mas quando essas chamadas de modelo são roteadas diretamente para os fornecedores, o caos se instala para as equipes de plataforma:

• Financeiro vê várias faturas de diferentes fornecedores de IA sem uma forma clara de atribuir custos ou impor orçamentos.
• Segurança perde um rastro de auditoria centralizado, tornando as revisões de conformidade para SOC 2 ou HIPAA um pesadelo.
• Engenharia enfrenta um sistema rígido. Trocar o modelo de sentimento por uma alternativa mais econômica ou com melhor desempenho exige a atualização manual de cada fluxo de trabalho n8n que o utiliza.

Ao rotear todo o tráfego do n8n através do TrueFoundry AI Gateway, todo o cenário muda. O Gateway atua como um plano de controle único e inteligente. Os agentes de suporte mantêm a velocidade de arrastar e soltar que tanto gostam, enquanto a organização obtém governança completa e controle de custos — eliminando os pontos cegos para cada chamada de LLM.

Key Metrics for Evaluating Gateway

Criteria	What should you evaluate ?	Priority	TrueFoundry
Latency	Adds <10ms p95 overhead for time-to-first-token?	Must Have	✅ Supported
Data Residency	Keeps logs within your region (EU/US)?	Depends on use case	✅ Supported
Latency-Based Routing	Automatically reroutes based on real-time latency/failures?	Must Have	✅ Supported
Key Rotation & Revocation	Rotate or revoke keys without downtime?	Must Have	✅ Supported
Key Rotation & Revocation	Rotate or revoke keys without downtime?	Must Have	✅ Supported
Key Rotation & Revocation	Rotate or revoke keys without downtime?	Must Have	✅ Supported
Key Rotation & Revocation	Rotate or revoke keys without downtime?	Must Have	✅ Supported
Key Rotation & Revocation	Rotate or revoke keys without downtime?	Must Have	✅ Supported

Evaluating an AI Gateway?

A practical guide used by platform & infra teams

Conectando o n8n ao Gateway: Um Guia de 3 Passos

Conectar o n8n ao Gateway é uma configuração única que leva minutos.

Pré-requisitos:

• Um token de acesso pessoal da sua conta TrueFoundry.
• URL base do Gateway da sua organização (por exemplo, https://<your-org>.truefoundry.cloud/api/llm).
• Uma instância n8n ativa (auto-hospedada ou na n8n Cloud).

Passos:

1. Criar uma Credencial no n8n: Navegue até a Credenciais seção na sua instância n8n e clique em Criar Credenciais. Procure e selecione o provedor de modelo desejado (por exemplo, OpenAI, Anthropic).

1. Configurar o Endpoint: Na tela de configuração da credencial, cole a URL do Gateway TrueFoundry no campo URL Base e seu token de acesso TrueFoundry no campo Chave de API.
   (Observação: o n8n pode exibir um aviso de que não consegue listar modelos da URL base. Isso é esperado e confirma que o Gateway está interceptando as chamadas de forma segura.)
2. Especifique Seu Modelo no Fluxo de Trabalho: Arraste um nó de chat (por exemplo, OpenAI Chat) para a sua tela de fluxo de trabalho. Nas configurações do nó, defina Seleção de modelo para Por ID e cole o ID específico do modelo do seu painel TrueFoundry (por exemplo, openai-main/gpt-4o, groq/gemma-7b-it, etc.).

Execute seu fluxo de trabalho. Cada solicitação de LLM a partir desse momento será roteada através do TrueFoundry Gateway, proporcionando observabilidade imediata e aplicação de políticas.

O Que Suas Equipes Ganham Imediatamente

Quando o n8n é executado através do TrueFoundry AI Gateway, sua organização obtém novas e poderosas capacidades sem alterar os fluxos de trabalho existentes. Ao centralizar o controle, o gateway oferece benefícios imediatos e tangíveis para observabilidade, segurança e governança financeira. Veja como isso se manifesta.

Rastreamento de custos do n8n

Para equipes de finanças e operações, obter visibilidade em tempo real dos gastos com IA é fundamental. O AI Gateway oferece uma solução abrangente para rastreamento de custos do n8n desde o primeiro dia.

• Painel de Custos Centralizado: Um único painel oferece um completo monitoramento de custos do n8n, detalhando os gastos com métricas detalhadas como uso de tokens, contagem de solicitações e latência p50/p95. Todos os dados podem ser mapeados diretamente para projetos e equipes específicos, proporcionando uma visão granular de para onde seu orçamento está indo.
• Gestão Orçamentária Proativa: Defina orçamentos e configure alertas para evitar estouros de custos antes que aconteçam. Se um fluxo de trabalho começar a consumir muitos recursos, você será notificado instantaneamente. Isso permite que você experimente com segurança, sabendo que picos durante os testes serão detectados antes que afetem os orçamentos de produção.
• Faturamento de Fornecedores Simplificado: O gateway pode rotear chamadas para qualquer provedor de modelo — incluindo OpenAI, Anthropic, Mistral, Groq ou motores auto-hospedados. No entanto, a equipe financeira vê uma superfície de faturamento única e unificada, simplificando drasticamente o faturamento e a gestão de fornecedores.
• Isolar Fluxos de Trabalho Caros: Com um profundo rastreamento do n8n no nível do gateway, é simples identificar nós ou fluxos de trabalho específicos que geram o maior custo. Você pode então aplicar limites ou regras de roteamento diretamente do gateway, otimizando os gastos sem nunca precisar tocar na tela do n8n.

segurança e salvaguardas do n8n

A segurança não pode ser deixada para depois. O AI Gateway atua como um ponto de controlo central, aplicando poderosas salvaguardas n8n a cada solicitação de LLM automaticamente, garantindo que seus dados e operações permaneçam seguros.

• Controle de Acesso na Borda: Cada solicitação é validada contra políticas de segurança robustas. Com tokens com escopo de projeto, Controle de Acesso Baseado em Função (RBAC) e verificações de políticas personalizadas aplicadas na borda, você tem controle granular sobre quem pode acessar quais modelos e dados.
• Proteção Automatizada de Dados: Reduza o risco de dados sem atrasar seus desenvolvedores. O gateway pode ser configurado para redação automática de PII e para aplicar listas de negação, impedindo que informações sensíveis cheguem aos modelos. Essas políticas centrais são aplicadas em todos os fluxos de trabalho do n8n por padrão.
• Trilhas de Auditoria Unificadas: Para revisões internas e conformidade externa, evidências claras são fundamentais. As trilhas de auditoria do gateway vinculam "quem executou o quê, quando e com qual modelo". Esses registros se combinam perfeitamente com os logs do n8n para fornecer uma trilha completa e irrefutável para qualquer auditoria.

limite de taxa do n8n

Equipes de engenharia de plataforma podem garantir a estabilidade do sistema e alto desempenho sem editar fluxos de trabalho individuais. O gateway oferece um plano de controle central para confiabilidade.

• Limites de Taxa e Tempos Limite Consistentes: Implemente uma limitação de taxa consistente do n8n e SLOs para cada projeto. Isso impede que qualquer fluxo de trabalho individual sobrecarregue um provedor de modelo e garante uma alocação justa de recursos entre as equipes, tudo gerenciado de um só lugar.
• Mecanismos de Contingência e Retentativas Automatizados: Mantenha seus fluxos de trabalho críticos em execução mesmo quando um provedor tiver um incidente. Você pode configurar o gateway com mecanismos de contingência automáticos para um modelo alternativo e retentativas inteligentes. Essa lógica é tratada centralmente, o que significa que você não precisa atualizar dezenas de nós n8n para construir resiliência.
• Atualizações Seguras e Contínuas: Use aliases de modelo para reduzir os riscos de atualizações. Seus nós n8n podem apontar para um alias estável como claude-3-haiku, enquanto a equipe de plataforma pode trocar a versão subjacente do modelo nos bastidores do gateway para implementar mudanças com segurança e sem tempo de inatividade.

Registro de logs n8n e observabilidade de ponta a ponta

Para equipes de dados, análise e operações, depurar fluxos de trabalho de IA complexos pode ser um desafio. O gateway integra rastreamento n8n com rastreamento profundo do modelo para fornecer uma visão única e unificada da saúde do sistema.

• Rastreamento de Requisições de Ponta a Ponta: Cada chamada que passa pelo gateway é marcada com IDs de correlação. Isso facilita o acompanhamento de uma única requisição desde o nó n8n inicial até o LLM e de volta, eliminando suposições em sistemas distribuídos.
• Depuração Mais Rápida: Combine o poder de dois sistemas de registro de logs. Use logs n8n para contexto de fluxo de trabalho de alto nível e aprofunde-se nos rastreamentos do gateway para detalhamentos granulares de latência do modelo, contagem de tokens e detalhes de erro. Você pode até reproduzir rastreamentos para replicar problemas rapidamente.
• Sinais de Saúde Prontos para Uso: O gateway expõe um rico conjunto de métricas prontas para seus painéis e ferramentas de alerta existentes (como Datadog ou Prometheus). Isso, combinado com os endpoints de monitoramento do n8n, oferece uma visão geral completa e imediata da saúde de todo o seu sistema.

Com esses elementos implementados, o setor financeiro obtém custos previsíveis, a segurança obtém trilhas de auditoria claras, as equipes de plataforma obtêm operações confiáveis e os desenvolvedores mantêm sua agilidade. É o caminho mais rápido para escalar o n8n com segurança, com rastreamento n8n em tempo real, logs n8n robustos e monitoramento de custos n8n simples e centralizado que funciona desde a primeira execução.

Este é apenas o começo. No próximo trimestre, a equipe TrueFoundry planeja aprofundar a integração para otimizar ainda mais a experiência do desenvolvedor. Seu feedback é crucial para guiar nosso roteiro. Sinta-se à vontade para entrar em contato conosco com suas solicitações de recursos.