Blank white background with no objects or features visible.

¡Hola, EMEA! TrueFoundry está ampliando su presencia en Europa, Oriente Medio y África. Leer más →

LiteLLM vs agentgateway: comparativa de dos AI gateways de código abierto

Published: noviembre 20, 2026

Resumen rápido
  • LiteLLM vs agentgateway es una comparativa entre amplitud y eficiencia: ambos son de código abierto, se alojan en infraestructura propia y gestionan tráfico de LLM, MCP y agentes. LiteLLM es un proxy en Python con la lista de funciones más extensa y la comunidad más grande, pero requiere Postgres y Redis. agentgateway es un proxy ligero escrito en Rust sin base de datos, con una latencia y un consumo de memoria mucho menores y controles de agentes integrados.
  • Elige LiteLLM si buscas almacenamiento en caché gratuito, el catálogo de proveedores más amplio y límites compartidos entre instancias en su versión gratuita, siempre que no te importe administrar Postgres y Redis.
  • Elige agentgateway si la latencia, la memoria o la huella de infraestructura son críticas, si prefieres no administrar una base de datos o si necesitas validación de JWT y enmascaramiento de PII sin adquirir una licencia Enterprise.
  • A tener en cuenta: LiteLLM tiene un stack más pesado y sufrió incidentes en su cadena de suministro en 2026 (fija versiones y aplica parches con frecuencia); agentgateway no incluye caché integrada y cualquier función compartida entre instancias requiere la versión de pago.

LiteLLM vs agentgateway parece un duelo equilibrado sobre el papel. Ambos son de código abierto, se pueden autoalojar, colocan un endpoint compatible con OpenAI frente a múltiples proveedores de modelos y gestionan tanto llamadas a herramientas MCP y tráfico entre agentes como llamadas a modelos. Sin embargo, proceden de entornos muy distintos. LiteLLM es un proxy en Python desarrollado por BerriAI que nació a partir de un SDK muy popular, y cuenta con la lista de funciones y la comunidad más grandes de su categoría. agentgateway es un proxy en Rust desarrollado desde cero por Solo.io y cedido a la Linux Foundation; es más compacto, más rápido y tiene un enfoque más acotado. Si estás buscando alternativas a LiteLLM, es una de las pocas opciones que puede competir con él en funciones para agentes.

Hemos probado ambos. Nuestro equipo evaluó de primera mano la versión de código abierto de agentgateway (v1.5.0, reconfirmando los hallazgos principales en la v1.6.0) y sometió a LiteLLM al mismo entorno de pruebas. Posteriormente, contrastamos la información de este artículo con la documentación de cada proyecto en noviembre de 2026, cuando las versiones vigentes eran agentgateway v1.7.0 y LiteLLM v1.106.6.

LiteLLMagentgateway (Solo.io)
Qué esProxy y SDK en Python para más de 100 proveedores de LLM, con gateways para MCP y agentes incorporadosProxy en Rust para tráfico de LLM, MCP y comunicación entre agentes
Licencia y gobernanzaNúcleo MIT, directorio Enterprise propietario. Administrado por BerriAIApache 2.0. Alojado en la Agentic AI Foundation bajo la Linux Foundation
Edición de pagoLiteLLM Enterprise, con precio basado en volumen de peticiones previo contacto comercialSolo Enterprise para agentgateway, con precio comercial bajo consulta
Ideal paraEquipos que buscan la máxima cobertura de proveedores y funciones y están dispuestos a administrar Postgres y RedisEquipos de plataforma que necesitan un gateway rápido y compacto con controles nativos para agentes y MCP

LiteLLM: descripción general

LiteLLM comenzó en el seno de BerriAI, una empresa respaldada por Y Combinator, y se lanzó como código abierto en agosto de 2023. La mayoría de los usuarios lo conocen primero como un SDK de Python para luego desplegar el proxy de LiteLLM como gateway compartido. Cuenta con más de 61.000 estrellas en GitHub y entre sus usuarios públicos destacan Netflix, Okta y NVIDIA. Su documentación enumera más de 100 proveedores (la página principal indica más de 140), y permite enrutar tráfico tanto a modelos comerciales como a modelos alojados por el usuario como vLLM u Ollama.

La versión gratuita abarca un gran número de capacidades. Ofrece claves virtuales, presupuestos y límites de tasa a nivel de clave, usuario, equipo, organización, usuario final y etiqueta, además de caché semántica y por coincidencia exacta, media docena de estrategias de enrutamiento, sistemas de reserva (fallbacks), métricas de Prometheus y decenas de integraciones de registro. El gateway MCP de LiteLLM permite restringir el acceso hasta el nivel de herramientas individuales e incluso de sus parámetros, y desde la versión v1.80.8 incluye un gateway para la comunicación entre agentes (A2A).

El coste principal reside en la operativa. El proxy es una aplicación Python (FastAPI) que requiere Postgres para almacenar claves, la interfaz de administración y el seguimiento de gastos, así como Redis en cuanto se ejecuta más de una instancia. LiteLLM está migrando su ruta de ejecución crítica a Rust; su página principal ya promociona un gateway en Rust, pero la documentación sigue definiendo el núcleo en Rust como una versión beta que cubre solo algunas rutas, con la integración completa del pipeline de Messages de Anthropic prevista para diciembre de 2026. Las funciones avanzadas como SSO para más de cinco usuarios, SCIM, registros de auditoría y autenticación JWT para cargas de trabajo requieren una licencia de pago.

agentgateway: descripción general

agentgateway es el sustituto desarrollado por Solo.io para su anterior Gloo AI Gateway, escrito en Rust en lugar de basarse en Envoy. Cuenta con licencia Apache 2.0 y está alojado en la Agentic AI Foundation (parte de la Linux Foundation). Solo comercializa una edición de pago denominada Solo Enterprise para agentgateway. Puede ejecutarse como un binario único que lee un fichero YAML, como un contenedor o en Kubernetes mediante su propio controlador, donde implementa la Gateway API. No necesita una base de datos para enrutar tráfico. En nuestras pruebas, el sistema comenzó a responder peticiones en menos de 11 segundos desde un arranque en frío, con un consumo de memoria de unos 18 MB en reposo.

Aplica un modelo de políticas unificado para gestionar llamadas a LLM, tráfico MCP y comunicaciones entre agentes. Su punto fuerte es la autorización en MCP: utiliza reglas CEL para definir qué herramientas puede utilizar cada emisor, y el gateway filtra la lista de herramientas de modo que el agente solo ve aquellas que tiene permitidas. La edición gratuita también valida JWTs frente a tu proveedor de identidad, limita modelos por clave, aplica presupuestos por clave en el despliegue independiente y enmascara datos sensibles (como correos electrónicos o números de tarjeta) antes de que la petición llegue al proveedor. Los límites de tasa para todo el clúster, la gestión compartida de presupuestos y la interfaz de control de costes son características exclusivas de la versión Enterprise. En nuestra reseña de agentgateway analizamos este sistema en detalle.

Comparativa directa

La columna de LiteLLM refleja su documentación oficial y los resultados de nuestras pruebas de rendimiento. La columna de agentgateway refleja nuestras pruebas prácticas y la documentación de Solo para la versión v1.7.0. Ambos análisis fueron revisados en noviembre de 2026.

CapacidadLiteLLM (código abierto)agentgateway (código abierto)
Lenguaje y runtimePython (FastAPI). Núcleo en Rust en fase beta para rutas específicasRust, binario único
DependenciasPostgres para claves, UI y seguimiento de costes. Redis al ejecutar más de una instanciaNinguna para enrutar tráfico. Registro de peticiones en SQLite embebido o Postgres
KubernetesDos Helm charts. Sin operador ni CRDsImplementación de Gateway API con sus propios CRDs y Helm charts
ProveedoresMás de 100 proveedores, más cualquier endpoint compatible con OpenAI23 proveedores específicos, más cualquier endpoint compatible con OpenAI
Tráfico gestionadoLLM, MCP y comunicación entre agentes (A2A)LLM, MCP, A2A y tráfico HTTP y gRPC general
Control de acceso en MCPPermisos en seis niveles (clave, equipo, usuario final, agente, usuario interno, organización), hasta nivel de herramientas y parámetrosReglas CEL por herramienta, con filtrado dinámico de la lista de herramientas por cliente
Identidad de cargas de trabajoClaves virtuales. La autenticación por JWT y OIDC requiere versión EnterpriseClaves de API, o validación de JWTs frente a tu proveedor de identidad en la versión gratuita
EnrutamientoPonderado, por menor carga, por latencia, por uso y por coste, con fallbacks, reintentos y periodos de enfriamientoPonderado, conmutación por error por prioridad, condicional, reintentos y expulsión de instancias anómalas
PresupuestosPor clave, usuario, equipo, organización, usuario final, agente y etiqueta. Compartidos entre instancias vía Postgres y RedisPor clave en despliegue independiente (por instancia). Los presupuestos compartidos son Enterprise
Límites de tasaRPM, TPM y concurrencia en múltiples niveles, compartidos mediante RedisLocales a cada instancia. Los límites globales para todo el clúster son Enterprise
Caché de respuestasCaché semántica y por coincidencia exacta, gratuitaSin caché de respuestas integrada
Enmascaramiento de PII antes del proveedorFiltro regex integrado, o integración con Microsoft Presidio en contenedores independientesNativamente integrado
Guardrails por equipoEnterpriseConfigurables por ruta en la edición gratuita
ObservabilidadPrometheus, OpenTelemetry y decenas de integraciones (Langfuse, Datadog, etc.)Prometheus, OpenTelemetry y registro de peticiones consultable mediante SQL
SSO para administraciónGratis hasta 5 usuarios, luego Enterprise. SCIM disponible en EnterpriseInicio de sesión OIDC para la UI independiente (v1.6.0 y posteriores)
Cumplimiento normativo (empresa)SOC 2 Tipo II; ISO 27001 indicado en la página enterpriseSolo certifica SOC 2 Tipo II

Puntos fuertes de LiteLLM

Ofrece almacenamiento en caché de respuestas. La caché semántica y por coincidencia exacta es gratuita y admite Redis, Valkey, Qdrant, S3 y otros sistemas como backend. agentgateway carece de caché integrada, por lo que las cargas de trabajo repetitivas, como los bots de soporte, pagan el precio completo de cada petición a menos que implementes una capa de caché externa.

Su catálogo de funciones es más amplio en casi todos los apartados. LiteLLM admite más proveedores, más estrategias de enrutamiento (incluyendo enrutamiento por coste y por latencia), más niveles de asignación de presupuestos y más integraciones de observabilidad que agentgateway. Si existe una función dentro de esta categoría de software, es muy probable que LiteLLM disponga de un ajuste para ella.

Mantiene los límites entre instancias en la versión gratuita. Dado que LiteLLM gestiona el estado en Postgres y Redis, los presupuestos y los límites de tasa se aplican a todas las réplicas sin necesidad de adquirir una licencia de pago. En agentgateway, los controles gratuitos se circunscriben a una sola instancia.

Sus permisos en MCP alcanzan un nivel de detalle mayor. LiteLLM permite autorizar una herramienta bloqueando parámetros específicos de la misma y superpone permisos a lo largo de seis niveles de identidad. Las reglas de agentgateway se aplican a nivel de herramienta.

Cuenta con la comunidad más grande. Con más de 61.000 estrellas, lanzamientos semanales y usuarios de primer nivel, la mayoría de los problemas que puedas encontrar ya han sido resueltos por otros usuarios. Además, permite obtener una clave de prueba Enterprise de 30 días sin necesidad de contactar con el equipo de ventas, algo que Solo no ofrece.

Puntos fuertes de agentgateway

Es notablemente más rápido y ligero. En el mismo entorno de pruebas (1 vCPU), agentgateway añadió entre 2 y 5 ms de latencia por petición, mientras que LiteLLM añadió entre 12 y 15 ms con poca carga y comenzó a generar colas mucho antes de alcanzar las 50 peticiones por segundo. agentgateway consume unos 18 MB de memoria en reposo; LiteLLM utilizó aproximadamente 1,2 GB a un ritmo de 10 peticiones por segundo.

Requiere una infraestructura mucho menor. Un único binario, sin base de datos y sin Redis, es suficiente para disponer de un gateway operativo. El despliegue de producción recomendado para LiteLLM incluye un balanceador de carga, Postgres, Redis y un gestor de secretos, lo cual representa una huella de infraestructura estándar en la nube, pero considerablemente superior a la de un solo contenedor.

Incluye más funciones de seguridad en su versión gratuita. La validación de JWTs frente a tu proveedor de identidad y el enmascaramiento de PII forman parte del proyecto de código abierto. En LiteLLM, la autenticación JWT y los guardrails por equipo requieren una licencia Enterprise.

El proyecto está respaldado por una fundación independiente. El código de agentgateway cuenta con licencia Apache 2.0 bajo el amparo de la Linux Foundation, por lo que no depende en exclusiva de la hoja de ruta de una sola empresa. LiteLLM utiliza la licencia MIT, pero sus mantenedores pertenecen mayoritariamente a BerriAI, y su módulo enterprise es propietario.

Se integra de forma nativa en Kubernetes. agentgateway implementa la Gateway API mediante su propio controlador y recursos personalizados (CRDs), por lo que la configuración de enrutamiento se gestiona como cualquier otro recurso del clúster. LiteLLM proporciona Helm charts, pero no incluye un operador ni CRDs.

Rendimiento

Sometimos a ambos gateways a las mismas pruebas: un contenedor limitado a 1 vCPU y 2 GB de RAM, un proveedor simulado local con una respuesta fija de 50 ms, y midiendo la diferencia respecto a las llamadas directas al simulador. Un matiz a favor de LiteLLM: su documentación recomienda dimensionar las instancias de producción con 4 vCPU y 8 GB de RAM, por lo que 1 vCPU representa un entorno muy ajustado para un proxy en Python.

Métrica (1 vCPU, 2 GB)LiteLLMagentgateway
Latencia añadida, sin streaming, carga bajaEntre 12 y 15 ms a 10 req/sEntre 2 y 5 ms
Rendimiento (throughput) sin streamingAproximadamente 40 a 50 req/s antes de formar colas; la mitad de las peticiones fallaron por timeout a 200 req/sAl menos 3.200 req/s (nuestro generador de carga se saturó primero)
Streaming~65 ms añadidos hasta el primer token a 10 req/s; saturado a 50 req/sSecuencias cortas fluidas en todos los niveles de carga; documentos largos mostraron degradación a ~30 req/s
MemoriaAproximadamente 1,2 GB a 10 req/sAproximadamente 18 MB en reposo, 31 MB tras 5.000 peticiones

Ambos proveedores publican también sus propias cifras. La página de benchmarks de LiteLLM indica 1.170 peticiones por segundo con una latencia p95 de 8 ms distribuida en cuatro instancias de 4 vCPU. Por su parte, Solo ha publicado pruebas comparativas directas contra LiteLLM mostrando 0,44 ms frente a 30,6 ms en p99 a un ritmo constante de 3.000 peticiones por segundo, con un consumo de memoria de 13 MiB frente a 11,7 GiB. Al tratarse de pruebas realizadas por los propios fabricantes sobre proveedores simulados, deben tomarse como una indicación orientativa y no como un valor absoluto. Nuestras mediciones independientes muestran la misma tendencia.

¿Resulta relevante esta diferencia? Para una aplicación de chat que procesa unas pocas peticiones por segundo, probablemente no: la llamada al modelo tarda cientos de milisegundos, por lo que 10 ms adicionales en el gateway resultan inapreciables. Sin embargo, cobra gran importancia al ejecutar agentes que realizan múltiples llamadas en bucle, o cuando se analiza el coste de las instancias adicionales que necesita LiteLLM para soportar la misma carga.

Precios

Ambos proyectos son gratuitos si se gestiona su autoalojamiento. La edición de código abierto de LiteLLM no impone límites de uso; el pago es necesario cuando se requiere SSO para más de cinco administradores, SCIM, registros de auditoría, autenticación JWT, guardrails por equipo o la separación entre nodos de administración y trabajadores. LiteLLM Enterprise es un contrato anual calculado en función del volumen de peticiones del gateway, sin precios públicos, con opción de iniciar una prueba de 30 días mediante una clave instantánea.

La edición gratuita de agentgateway incluye presupuestos por clave, enmascaramiento de PII, validación de JWT y autorización en MCP para instancias individuales. Solo Enterprise para agentgateway añade límites de tasa para todo el clúster, gestión centralizada de presupuestos, UI de gestión de costes, suplantación de identidad autorizada (on-behalf-of), compilaciones FIPS y soporte técnico. Su precio también se define mediante propuesta comercial y no dispone de prueba autoservicio. Nuestro análisis detallado de precios del AI gateway de Solo aporta más información al respecto.

En ambos casos, la licencia suele ser el coste menor. Con LiteLLM, es necesario presupuestar el coste de los servicios gestionados de Postgres y Redis, además de las instancias adicionales que requiere un proxy en Python a gran escala. Con agentgateway, el coste principal será la edición Enterprise en cuanto se necesiten límites compartidos entre varias instancias.

Aspectos clave a considerar

Fija las versiones de LiteLLM y verifica las imágenes. LiteLLM sufrió dos incidentes de seguridad en su cadena de suministro durante 2026. El 24 de marzo, las versiones maliciosas 1.82.7 y 1.82.8 en PyPI incluyeron un extractor de credenciales. El 21 de octubre, una versión comprometida (v1.107.0) permaneció disponible en PyPI y Docker Hub durante dos horas con imágenes provistas de una firma válida. LiteLLM publicó informes detallados, rotó su clave de firma y modificó su proceso de publicación, pero fijar versiones exactas se ha convertido en una práctica esencial de seguridad.

Aplica los parches de LiteLLM de forma continua. Una vulnerabilidad crítica de inyección SQL (CVE-2026-42208) afectó desde la versión v1.81.16 hasta la v1.83.6, siendo corregida en la v1.83.7. Dado su ritmo de publicaciones semanales, conviene planificar actualizaciones frecuentes. En noviembre de 2026, LiteLLM inició además un programa piloto de soporte a largo plazo (LTS) en la rama 1.108.

Define la gobernanza de la configuración en LiteLLM. Al almacenar los modelos en la base de datos, los cambios realizados desde la interfaz de administración sobrescriben el archivo YAML, por lo que el estado del gateway en ejecución puede diferir de lo registrado en Git.

Redis es indispensable para la precisión de LiteLLM, no solo para su velocidad. Sin Redis, cada instancia aplica sus propios límites de tasa de forma independiente en lugar del límite global configurado.

agentgateway realiza un reintento más de los indicados en su documentación. Un ajuste de reintentos con valor 1 efectúa dos llamadas al proveedor, sin aplicar tiempo de espera entre intentos a menos que se configure explícitamente.

Las secuencias en streaming en agentgateway pueden quedar bloqueadas si no se define un timeout. Configura responseIdleTimeout (disponible en v1.6.0 y posteriores) en las rutas de streaming; de lo contrario, si un proveedor se interrumpe a mitad de la emisión, la conexión permanecerá abierta indefinidamente.

Cuándo elegir LiteLLM

  • Buscas almacenamiento en caché, enrutamiento por coste o la mayor compatibilidad de proveedores sin incurrir en costes de licencia.
  • Necesitas aplicar presupuestos y límites de tasa compartidos entre múltiples instancias en la versión gratuita.
  • Tu equipo cuenta con experiencia administrando Postgres y Redis y desarrollando extensiones en Python.
  • Prefieres una comunidad muy amplia y la posibilidad de evaluar la versión Enterprise de forma autoservicio.

Cuándo elegir agentgateway

  • La latencia, el consumo de memoria o la cantidad de instancias son prioritarios, como ocurre en entornos con agentes realizando llamadas recurrentes.
  • Prefieres un gateway que no requiera administrar bases de datos, diseñado para integrarse en Kubernetes mediante la Gateway API.
  • Necesitas validación de JWT y enmascaramiento de PII sin adquirir una licencia Enterprise.
  • Valoras un proyecto gobernado por una fundación independiente con licencia Apache 2.0.

La alternativa de TrueFoundry

Ambos gateways requieren desarrollo e integración adicional por parte del usuario. LiteLLM ofrece un amplio abanico de funciones, pero traslada la responsabilidad de administrar Postgres, Redis, la aplicación de parches y la adquisición de una licencia Enterprise para SSO y auditoría. agentgateway es eficiente y compacto, pero requiere contratar la versión de Solo para cualquier función compartida entre instancias y no dispone de caché. El TrueFoundry AI Gateway se ofrece como SaaS gestionado, como gateway en tu propia VPC con un plano de control alojado por nosotros, o completamente autoalojado en tu VPC, en instalaciones locales (on-premises) o en entornos aislados (air-gapped). Los pods del gateway reciben la configuración y las reglas de acceso desde el plano de control en tiempo real, junto con contadores centralizados de presupuestos y límites de tasa, aplicando las restricciones entre réplicas sin necesidad de cambiar de edición.

Permite acceder a más de 1.000 LLMs a través de un único endpoint compatible con OpenAI, enruta peticiones a modelos propios desde el mismo plano de control y gobierna el tráfico de LLM, MCP y agentes con control de acceso a nivel de herramienta y aprobación humana antes de ejecutar herramientas destructivas. Los presupuestos se pueden definir por equipo, modelo o cuenta de proveedor, e incluye SSO, RBAC y registros de auditoría de forma nativa. Si estás comparando gateways de código abierto porque necesitas tanto control de costes como gobernanza de agentes, descubre cómo gestiona ambos aspectos el TrueFoundry AI Gateway o solicita una demostración.

Lecturas relacionadas

Conclusión

La elección entre LiteLLM y agentgateway se reduce a una prioridad clara: amplitud frente a eficiencia. LiteLLM ofrece el catálogo de funciones gratuitas más extenso, incluyendo caché y límites compartidos, a cambio de una infraestructura más compleja y un mantenimiento más frecuente. agentgateway proporciona un gateway rápido y ligero con sólidos controles para agentes y MCP, aunque cualquier capacidad compartida entre instancias requiere su edición comercial. Si deseas combinar ambas ventajas sin asumir la gestión operativa de la infraestructura, solicita una demo con TrueFoundry.

Try now.

One gateway for all your models, MCP servers, and agents. No credit card needed.

Inscríbase
Tabla de contenido

Controle, implemente y rastree la IA en su propia infraestructura

Reserva 30 minutos con nuestro Experto en IA

Reserve una demostración

La forma más rápida de crear, gobernar y escalar su IA

Demo del libro
Summarize with
ChatGPT logo by OpenAI
Perplexity AI logo
Blurry red snowflake on white background, symmetrical frosty design with soft edges and abstract shape.

Descubra más

No se ha encontrado ningún artículo.
noviembre 20, 2026
|
5 minutos de lectura

GPT-6.1 Terra: API, benchmarks, precios y cómo usarlo

No se ha encontrado ningún artículo.
noviembre 20, 2026
|
5 minutos de lectura

Alternativas a Bifrost: las mejores herramientas que puede considerar en 2026

No se ha encontrado ningún artículo.
noviembre 20, 2026
|
5 minutos de lectura

GPT-5.1 frente a GPT-5: 9 mejoras clave que debes conocer

LLMS y GenAI
TrueFoundry AI gateway is an enterprise alternative to Bifrost and Portkey
noviembre 20, 2026
|
5 minutos de lectura

Bifrost vs. Portkey: comparativa de precios, funciones de AI Gateway e idoneidad empresarial

No se ha encontrado ningún artículo.
No se ha encontrado ningún artículo.
Realice un recorrido rápido por el producto
Comience el recorrido por el producto
Visita guiada por el producto