Blank white background with no objects or features visible.

Olá, EMEA! A TrueFoundry está expandindo sua presença pela Europa, Oriente Médio e África. Leia mais. →

TrueFoundry vs OpenRouter: Rastreamento de Uso e Observabilidade — Comparativo de Logs, Métricas, Traces e Avaliações (2026)

Published: novembro 20, 2026

Resumo rápido

Este é o artigo mais equilibrado da nossa série TrueFoundry vs OpenRouter. O rastreamento de uso do OpenRouter oferece uma excelente experiência hospedada: um painel de Activity com gráficos salváveis, uma API de Analytics com latência P50/P90/P99 e taxas de cache-hit, Custom Classifiers que marcam automaticamente cada geração, exportação Broadcast para 21 destinos e uma CLI nativa de avaliação (Ori Eval) que a TrueFoundry não possui. Por outro lado, o TrueFoundry AI Gateway é a opção de plataforma mais robusta: registro completo de corpos de requisição e resposta sob sua própria política, endpoint de coleta (scrape) do Prometheus com um catálogo de métricas documentado, spans nativos do OpenTelemetry usando as convenções semânticas de GenAI, atribuição detalhada até a ferramenta individual de MCP, alertas de orçamento a 75/90/95/100% em todos os planos e logs brutos armazenados como Parquet em um bucket de sua propriedade.

  • Escolha o OpenRouter quando sua pilha de observabilidade já estiver integrada a um destino do Broadcast, quando percentis de uma única API forem suficientes e você desejar classificar gerações automaticamente em vez de marcá-las pelos metadados da requisição.
  • Escolha a TrueFoundry quando você usa Prometheus para coleta de dados, precisa de spans nas convenções de GenAI em um pipeline OTel existente, precisa atribuir gastos a uma ferramenta de MCP, deseja ser proprietário dos logs brutos ou prefere um aviso a 75% do orçamento em vez de um bloqueio a 100%.
  • Nenhum dos dois realiza amostragem no momento da captura de forma documentada, envia alertas nativos sobre latência ou taxa de erro, ou documenta a propagação de cabeçalhos traceparent W3C de entrada. Planeje essas três funcionalidades no seu APM.

O rastreamento de uso no OpenRouter parte de uma decisão de design: o OpenRouter sempre registra metadados (carimbos de data/hora, modelo, provedor, contagem de tokens, latência, custo) e armazena o conteúdo do prompt e da conclusão apenas quando o administrador da organização habilita essa opção. Tudo o mais sobre este tópico decorre dessa escolha — e da decisão oposta da TrueFoundry, onde os corpos completos são registrados por padrão sob uma política de registro configurável. Este artigo compara as duas soluções em termos de captura e busca de requisições, métricas e seus formatos, rastreamento de LLM e propagação de contexto, granularidade de atribuição, painéis e integrações, alertas, ganchos de avaliação e retenção. Cada afirmação é baseada na documentação pública de ambos os fornecedores, e destacamos os pontos em que o OpenRouter leva vantagem.

Visão geral

DimensãoTrueFoundryOpenRouter
Captura de conteúdoCorpos completos por padrão, governados por política de registros; metadados sempre registradosMetadados sempre registrados; conteúdo via opt-in (beta, apenas admin, indisponível em endpoints regionais)
Superfície de métricasPrometheus /metrics + exportação OTLP + APIs de consultaAPI de Analytics (beta, chave de gerenciamento, limite de 2 dimensões); sem suporte ao Prometheus
Rastreamento (Tracing)OTel nativo, convenções semânticas de GenAI, exportação duplaOTLP via Broadcast; objeto de trace no corpo da requisição
Base de atribuiçãoServidor MCP e ferramenta individualChave de API, aplicativo, usuário, sessão, tag de classificador
Destinos de exportação12 documentados + qualquer backend OTLP21 destinos Broadcast incl. BigQuery, Snowflake, S3, PostHog
Alertas nativosMarcos de orçamento (75/90/95/100%) em todos os planosAlertas de cota de orçamento e gastos por chave nos planos Business e Enterprise
Evals (Avaliações)API de Feedback + base de evals em Parquet + divisão de tráfego; sem UI de avaliaçãoOri Eval CLI (adjacente) + endpoint Report Feedback

Rastreamento de uso no OpenRouter: o que o painel Activity e os Logs capturam

O painel do OpenRouter para monitorar o uso é a página Activity: os metadados de cada requisição são exibidos ali, com filtragem opcional por workspace; os gráficos da seção Explore utilizam os mesmos agregados retornados pela API de Analytics, e as configurações dos gráficos podem ser salvas e compartilhadas com "Todos na minha organização". Ativar a opção Usage Accounting retorna o custo e a contagem de tokens no corpo de cada resposta, permitindo que o cliente monitore os gastos por chamada sem precisar fazer polling. O registro de conteúdo de prompt e conclusão é um recurso separado e opcional: o Input & Output Logging está em fase beta, é alternado por workspace, visível apenas para administradores da organização e é ignorado para requisições enviadas por endpoints regionais — portanto, o roteamento regional e o registro de conteúdo são mutuamente exclusivos. Dois recursos tornam os dados de atividade do OpenRouter mais úteis do que metadados brutos convencionais: o Broadcast oferece uma taxa de amostragem por destino (determinística por session_id, garantindo a exportação de sessões completas) e filtragem por chave de API por destino, permitindo que chaves de produção sejam exportadas em uma taxa menor que as de desenvolvimento; já os Custom Classifiers permitem definir uma taxonomia (departamento, tipo de tarefa, complexidade do agente) aplicada por um modelo menor a cada geração, permitindo filtrar e analisar logs agrupados por essas tags. A captura é binária por workspace; a amostragem ocorre na exportação, não na ingestão.

A TrueFoundry registra os corpos completos das requisições e respostas como arquivos Parquet em blob storage, governados por configurações de registro associadas a usuário, equipe, modelo ou metadados; custo, tokens e latência são registrados mesmo quando uma regra oprime os corpos (registro de requisições). A busca é realizada por uma API de consulta de spans com filtros por trace ID, assunto, modelo e metadados, contando com atributos de span documentados, além de um visualizador de Request Traces na interface (busca de logs de requisição). Como os arquivos Parquet permanecem no seu próprio bucket, ferramentas como DuckDB, Athena ou Spark podem consultá-los diretamente, garantindo o controle total sobre os dados brutos. O recurso que a TrueFoundry não possui — e que o OpenRouter oferece parcialmente — é a amostragem percentual: nossas configurações funcionam no formato "registrar ou não registrar" por regra de correspondência. Nossa visão geral sobre observabilidade em um gateway de IA aborda o modelo de política de registro em mais detalhes.

Figura 1: Monitoramento de traces, logs e spans de requisição na TrueFoundry.
Figura 2: Visão geral de métricas de observabilidade e monitoramento na TrueFoundry.

Métricas: API de uso do OpenRouter vs endpoint Prometheus

A API de Analytics do OpenRouter está em fase beta. O endpoint GET /api/v1/analytics/meta lista métricas, dimensões, operadores de filtro e granularidades suportados; o POST /api/v1/analytics/query executa a consulta. É necessária uma chave de gerenciamento, e chaves de API comuns recebem erro 403. O conjunto de métricas é abrangente: gastos detalhados por créditos, OpenRouter, BYOK, taxas de BYOK, provedor de origem, cache e web; contagem de requisições; tokens divididos em prompt, conclusão, raciocínio ou em cache; taxa de cache hit; custo médio ponderado por milhão de tokens; além de latência e vazão (throughput) nos percentis P50, P90 e P99, com granularidade por minuto, hora, dia, semana ou mês. Duas limitações devem ser consideradas ao criar relatórios: as consultas são limitadas a no máximo duas dimensões e as respostas contêm uma sinalização de truncamento. Não há endpoint para coleta via Prometheus, o que se deve à ausência de um processo gerenciado pelo cliente para essa coleta; a exportação de métricas OTLP via Broadcast é o caminho alternativo.

A TrueFoundry disponibiliza um endpoint /metrics compatível com Prometheus em gateways self-hosted, acompanhado por um catálogo de métricas totalmente documentado, conjunto de rótulos, exportação de métricas OTel configurável pelo painel via OTLP HTTP ou gRPC, além de uma família de APIs de consulta cobrindo métricas de modelos, MCP, guardrails, cache, roteamento e agentes (Prometheus e Grafana, exportação OpenTelemetry). O único ponto em que as métricas de LLM do OpenRouter parecem superiores na documentação é a disponibilização direta de linhas de percentis; na TrueFoundry, esses dados são gerados como séries temporais de latência por dimensão agregadas no Grafana — ou seja, os mesmos dados, com apenas um passo adicional de configuração.

Figura 3: Monitoramento de métricas de observabilidade no painel do Grafana com integração TrueFoundry.
Figura 4: Formulário de configuração de exportação de rastreamento OpenTelemetry (OTEL) no AI Gateway da TrueFoundry.

Rastreamento de LLM e OpenTelemetry: propagação de contexto

A exportação via OpenTelemetry para LLM está disponível em ambas as plataformas, mas com arquiteturas distintas. A TrueFoundry possui conformidade nativa com o OTel: os traces do gateway são armazenados pela TrueFoundry e podem ser exportados simultaneamente para qualquer backend OTLP sem impactar o armazenamento interno, enquanto os spans seguem as convenções semânticas de GenAI do OpenTelemetry com uma referência de atributos documentada (atributos de span). O OpenRouter utiliza OTLP nativo na saída via Broadcast, com mapeamentos específicos por destino: atributos OpenInference para Arize, atributos consultáveis via TraceQL para Grafana Cloud, NRQL para New Relic e OTLP JSON para webhooks genéricos.

A propagação de contexto é o ponto em que as soluções se diferenciam na prática. O OpenRouter aninha o span de geração abaixo do span da sua aplicação se você passar um objeto trace com trace_id e parent_span_id no corpo da requisição. Essa é uma propagação explícita enviada na carga útil (payload), o que exige modificar os pontos de chamada da aplicação; o suporte ao cabeçalho traceparent W3C de entrada não é documentado. A TrueFoundry também não documenta explicitamente a propagação do traceparent de entrada. Para ambos os casos, a recomendação é a mesma: envie o cabeçalho, inspecione o elemento pai do span exportado e confirme o comportamento na prática. O rastreamento no nível do gateway também é a base que alimenta nosso produto de rastreamento de agentes, mantendo a latência adicional de ~3–4 ms e suporte a mais de 350 requisições por segundo por vCPU com o rastreamento ativo, em mais de 2.500 LLMs por meio de uma única API compatível com a OpenAI.

Atribuição: uso de tokens no OpenRouter por chave e app vs por ferramenta de MCP

O uso de tokens no OpenRouter oferece atribuição em diversas dimensões via API de Analytics: modelo, variante, provedor, chave de API, app, usuário, workspace, origem, país, região de dados, motivo de finalização, tamanho do contexto, sessão, geração, IDs de usuário personalizados e dimensões de classificadores, agrupados em até duas dimensões simultâneas. O recurso Activity Export gera relatórios de uso em CSV ou PDF por modelo, chave ou membro da organização. Uma ressalva importante para a área financeiras: os gastos com BYOK são estimados com base nas taxas de mercado do provedor, e não com eventuais descontos negociados, fazendo com que exportações de tráfego intensivo em BYOK apresentem valores superiores aos custos reais.

A TrueFoundry atribui tokens, custo e latência por requisição, usuário, equipe, conta virtual, modelo, conta de provedor, servidor MCP, ferramenta individual de MCP e chaves de metadados personalizadas, permitindo análises sem limite de dimensões no painel e nas APIs de consulta (analytics). A atribuição no nível de ferramentas de MCP é um recurso exclusivo da TrueFoundry, pois o OpenRouter não atua no caminho das chamadas de ferramentas. Para fluxos de trabalho com agentes onde os custos estão concentrados nas ferramentas e não apenas no modelo, essa granularidade é essencial. Nosso guia sobre rastreamento de custos de LLM mostra como as visualizações por equipe e conta virtual facilitam o faturamento interno (chargeback).

Figura 5: Aba Models com custo ao longo do tempo e uso por modelo no painel de Metrics da TrueFoundry.
Figura 6: Aba MCP com chamadas por servidor e tabela de servidores e ferramentas no painel de Metrics da TrueFoundry.
Figura 7: Aba Agents com execuções ao longo do tempo e atividade por agente no painel de Metrics da TrueFoundry.
Figura 8: Aba Guardrails com resultados ao longo do tempo e métricas por guardrail no painel de Metrics da TrueFoundry.
Figura 9: Filtro por usuário, equipe, conta virtual, conversa ou metadados no painel de Metrics da TrueFoundry.
Figura 10: Visualização detalhada de uma equipe, com uso por membro no painel de Metrics da TrueFoundry.

Painéis e integrações: 21 destinos Broadcast vs 12 integrações nativas mais OTLP genérico

Ambas as plataformas oferecem painéis nativos e suporte a integrações externas. O Metrics Dashboard da TrueFoundry traz visualizações em abas para contadores gerais, custos, detalhamento de LLM e MCP, erros, guardrails e classificações; o painel Activity do OpenRouter oferece gráficos editáveis na seção Explore e uma visualização de Logs com páginas de detalhes de cada geração.

Em relação a integrações, o OpenRouter se destaca pela variedade de destinos pré-configurados. Os destinos Broadcast suportados incluem: Arize AX, Braintrust, ClickHouse, Comet Opik, Datadog, Elastic Observability, Google BigQuery, Grafana Cloud, buckets de armazenamento da Hugging Face, Langfuse, LangSmith, New Relic, OpenTelemetry Collector, PostHog, Raindrop, Ramp, S3 e compatíveis, Sentry, Snowflake, W&B Weave e webhooks genéricos, todos com credenciais criptografadas e validação de conexão antes do salvamento. Os destinos para data warehouses e analytics de produto (BigQuery, Snowflake, PostHog) não possuem equivalentes diretos em nossa lista nativa. A TrueFoundry documenta suporte para Datadog, Grafana/Prometheus, New Relic, Langfuse, Arize, Honeycomb, Dynatrace, SigNoz, Coralogix, Traceloop, Middleware e W&B Weave, além de qualquer sistema compatível com OTLP via exportador genérico (ecossistema). A integração com data warehouses é realizada a partir do bucket de arquivos Parquet. Uma validação importante ao utilizar o Broadcast: ele exporta dados de rastreamento para terceiros, e a documentação do Datadog menciona um Privacy Mode — recomenda-se verificar como essa configuração interage com conteúdos que você optou por não armazenar na plataforma principal.

Alertas: marcos de orçamento vs notificações por plano

Os alertas nativos da TrueFoundry são focados em controle financeiro: alertas de marcos de orçamento a 75, 90, 95 e 100% enviados por e-mail, webhook do Slack ou bot do Slack com modelos personalizáveis por usuário, disponíveis em todos os planos (limite de orçamento). No OpenRouter, as notificações variam conforme o plano: e-mails de saldo baixo, descontinuação de modelos e redução de preços estão disponíveis para todos os usuários; já nos planos Business e Enterprise, há alertas de limite de orçamento por workspace acionados por cota percentual, alertas de limite de gastos por chave e entregas via Slack ou webhook. Dessa forma, o aviso prévio ao bloqueio está presente em ambas as ferramentas, mas no OpenRouter é um recurso restrito aos planos pagos. Nenhuma das plataformas documenta regras de alerta nativas para latência, taxa de erros ou disparo de guardrails; o monitoramento de LLM voltado à confiabilidade deve ser feito a jusante (downstream) em ambas as soluções — via exportação de métricas para o AlertManager ou seu APM no lado da TrueFoundry, e via Broadcast no OpenRouter. A relação entre alertas de orçamento, limites rígidos (hard limits) e taxa limite (rate limits) é detalhada no nosso artigo sobre limites de taxa do OpenRouter.

Figura 11: Aplicação de limites de orçamento na TrueFoundry.

Evals de LLM e experimentação: Ori Eval vs API de Feedback e divisão de tráfego

O OpenRouter oferece a única solução nativa de avaliação nesta comparação, funcionando como uma ferramenta complementar à API principal. O Ori Eval é uma CLI que analisa o código-fonte em busca de chamadas de modelos, realiza entrevistas interativas, gera arquivos de avaliação, executa o agente usando seus próprios prompts, valida as ferramentas acionadas e avalia respostas abertas utilizando um LLM como juiz. Como as avaliações são definidas em código, elas podem ser automatizadas no pipeline; a documentação cita o caso de um usuário beta cuja comparação mensal abre automaticamente um Pull Request sempre que um modelo superior é identificado. No nível de API, a plataforma oferece o endpoint Report Feedback, além de variantes de roteamento, Routers e presets para testes; não há suporte documentado para divisão nativa de tráfego A/B.

A TrueFoundry disponibiliza três mecanismos de integração sem oferecer uma interface própria de avaliação. A API de Feedback permite associar notas de 1 a 5 a qualquer trace por meio do cabeçalho de resposta x-tfy-feedback-target-id (restrito ao span raiz nesta versão) (feedback para traces). O tráfego de produção serve diretamente como base para conjuntos de avaliação, pois os arquivos Parquet armazenados no seu bucket podem ser consultados via Spark, DuckDB ou Athena. Além disso, a divisão de tráfego em modelos virtuais funciona como um recurso nativo de experimentação, permitindo direcionar uma porcentagem do tráfego para um modelo candidato e comparar o desempenho usando as mesmas métricas. Para evals de LLM completos, ambas as plataformas recomendam o uso de integrações com Langfuse, Arize, Braintrust ou Weave por meio da exportação de traces.

Retenção e custo de armazenamento

A TrueFoundry não estabelece um limite fixo de retenção; o tempo de retenção de traces é configurável por destino de roteamento de dados, enquanto as métricas são direcionadas ao destino padrão com período de retenção ajustável. Em ambientes com armazenamento gerenciado pelo cliente, o limite é a capacidade do seu próprio bucket (roteamento de dados). O custo de armazenamento em escala depende do volume de dados e pode ser estimado a partir da métrica de bytes por requisição. O OpenRouter não especifica limites de retenção para metadados ou conteúdos armazenados; a janela de 30 dias informada no endpoint de analytics representa um limite de consulta, e não uma política de expiração de dados. Quando os dados são exportados via Broadcast para seu próprio S3, ClickHouse, BigQuery ou Snowflake, a gestão de retenção e custos fica sob responsabilidade do cliente.

TrueFoundry vs OpenRouter: comparativo direto de observabilidade

As funcionalidades da TrueFoundry são baseadas em nossa documentação oficial; as funcionalidades do OpenRouter refletem os recursos documentados publicamente até o momento da redação deste artigo.

DimensãoTrueFoundry AI GatewayOpenRouter
Captura de conteúdoCorpos completos sob política de logs; metadados sempre registradosMetadados sempre; conteúdo via opt-in beta, apenas admin, indisponível em endpoints regionais
AmostragemNão documentada (binária por regra)Binária na captura; amostragem por destino na exportação via Broadcast
BuscaAPI de consulta de spans; visualizador de traces na UI; DuckDB / Athena em ParquetPágina de Logs; filtros na API de Analytics; tags de Custom Classifiers
Superfície de métricasPrometheus /metrics (self-hosted), exportação OTel, APIs de consultaAPI de Analytics (beta, chave de gerenciamento, limite de 2 dimensões); sem suporte a Prometheus
Métricas de latênciaSéries temporais por dimensãoP50 / P90 / P99 e vazão (throughput)
Rastreamento (Tracing)OTel nativo; convenções semânticas de GenAI; exportação duplaOTLP via Broadcast; mapeamentos específicos por provedor
Contexto de trace de entradatraceparent não documentadoObjeto trace no corpo da requisição; traceparent não documentado
AtribuiçãoRequisição, usuário, equipe, conta virtual, modelo, conta de provedor, servidor e ferramenta MCP, metadadosModelo, variante, provedor, chave, app, usuário, workspace, região, sessão, classificadores (2 por vez)
Painel nativoMetrics Dashboard: custos, LLM / MCP, erros, guardrails, classificaçõesPainel Activity com gráficos salváveis; visualização de Logs
Integrações12 documentadas + qualquer backend OTLP21 destinos Broadcast incl. BigQuery, Snowflake, S3, PostHog
Alertas nativosMarcos de orçamento via e-mail / Slack em todos os planosAlertas de cota de orçamento e gastos por chave nos planos Business e Enterprise; avisos básicos por e-mail
Alertas de confiabilidadeIntegração externa via exportação de métricasIntegração externa via Broadcast
FeedbackAPI de Feedback, 1–5, apenas span raizEndpoint Report Feedback
Ferramenta de EvalsSem solução nativa; integrações via exportaçãoOri Eval CLI (ferramenta adjacente)
Tráfego de produção como base de evalSim; arquivos Parquet no seu bucketSim; Broadcast para plataformas e data lakes externos
ExperimentationDivisão de tráfego em modelos virtuaisVariantes de roteamento e presets; sem divisão A/B nativa
Limite de retençãoSem limite fixo; configurável por destinoNão documentado; sem período especificado
Posse dos logs brutosSim (no seu próprio bucket)Apenas via Broadcast para seu próprio destino

Quando escolher o OpenRouter

  • Sua pilha de observabilidade é um destino do Broadcast e você deseja enviar traces diretamente para lá com conexões validadas e sem a necessidade de gerenciar coletores.
  • Percentis e taxa de cache-hit de uma única API atendem às suas necessidades, e o limite de duas dimensões por agrupamento não interfere na geração dos seus relatórios.
  • Você prefere classificação automatizada de gerações. Os Custom Classifiers aplicam tags por departamento ou tipo de tarefa sem a necessidade de modificar os metadados da requisição.
  • Você pretende adotar o Ori Eval e concorda em utilizar uma ferramenta de avaliação baseada em CLI independente da API principal.

Quando escolher a TrueFoundry

  • Você utiliza coleta via Prometheus e precisa que o gateway funcione como mais um target monitorado com catálogo documentado.
  • Seu pipeline OTel exige convenções semânticas de GenAI, em vez de mapeamentos de atributos proprietários.
  • A atribuição precisa detalhar chamadas de ferramentas MCP, identificando onde os custos dos agentes estão concentrados.
  • Você exige a propriedade dos logs brutos em formato Parquet para consulta via engines próprias e criação de bases de avaliação.
  • Você prefere receber alertas preventivos a 75% do orçamento, em qualquer plano, em vez de ser bloqueado ao atingir 100%.

Leituras complementares

Conclusão

O rastreamento de uso do OpenRouter é uma das soluções de observabilidade hospedada mais completas da categoria: recursos como Broadcast, percentis na API de Analytics, Custom Classifiers e o Ori Eval oferecem vantagens claras — sendo que o envio direto para data warehouses e a ferramenta nativa de avaliações são recursos não oferecidos pela TrueFoundry. Por outro lado, os diferenciais da TrueFoundry estão no nível de infraestrutura: endpoint nativo Prometheus, spans padronizados em GenAI, atribuição detalhada até a ferramenta de MCP, alertas de orçamento em todos os planos e armazenamento de logs brutos em Parquet no seu próprio bucket. Nenhuma das ferramentas realiza amostragem na captura, oferece alertas nativos de confiabilidade ou documenta a propagação do cabeçalho traceparent de entrada. A escolha deve considerar a localização atual dos seus dados e a necessidade de manter a posse dos logs brutos.

Para conhecer o painel de métricas, a exportação OTel e a atribuição no nível de ferramentas em ação, explore o TrueFoundry AI Gateway ou agende uma demonstração para analisar a integração com sua infraestrutura de observabilidade.

Try now.

One gateway for all your models, MCP servers, and agents. No credit card needed.

Start free
Table of Contents

One Gateway for Every LLM, Agent and MCP Server

Book a 30-min with our AI expert

Book a Demo

The fastest way to build, govern and scale your AI

Book Demo
Summarize with
ChatGPT logo by OpenAI
Perplexity AI logo
Blurry red snowflake on white background, symmetrical frosty design with soft edges and abstract shape.

Discover More

No items found.
novembro 20, 2026
|
5 min read

Grok 4.3 no Amazon Bedrock: Roteamos Quatro Modelos de Fronteira por um Único Gateway e Medimos o Custo

Ferramentas de LLM
comparação
novembro 20, 2026
|
5 min read

GPT-6.1 Terra: API, Benchmarks, Preço & Como Usar

No items found.
TrueFoundry AI gateway is an enterprise alternative to Bifrost and Portkey
novembro 20, 2026
|
5 min read

Bifrost vs Portkey: Precificação, Recursos de Gateway e Adequação Enterprise Comparados

No items found.
novembro 20, 2026
|
5 min read

Evolução do Machine Learning: Um Mergulho Profundo na Jornada de Savin

True ML Talks
No items found.
Take a quick product tour
Start Product Tour
Product Tour