TrueFoundry AI Gateway en VMware Cloud Foundation

Gobernanza de IA empresarial: en su infraestructura y bajo su control

El desafío

La inteligencia artificial avanza a gran velocidad. Las unidades de negocio están experimentando con modelos de lenguaje de gran tamaño (LLM) de múltiples proveedores, activando suscripciones de forma independiente y canalizando datos corporativos confidenciales a través de API de public cloud, a menudo sin visibilidad, sin controles de gasto y sin registro de auditoría. Al mismo tiempo, las industrias reguladas no pueden enviar datos propietarios fuera del perímetro corporativo. Los equipos de TI y seguridad se ven obligados a gestionar una superficie de IA en constante expansión y sin gobernar, sin forma práctica de aplicar políticas, realizar un seguimiento de los costes o garantizar el cumplimiento normativo. El resultado: dispersión de la IA, riesgo presupuestario y una exposición inaceptable de los datos.

La solución

TrueFoundry AI Gateway proporciona un punto de acceso único y gobernado centralmente para todas las interacciones con modelos de IA en toda la empresa. Ya sea que un equipo utilice un modelo on-premises para cargas de trabajo confidenciales o un cloud provider para la productividad general, cada solicitud fluye a través de un único endpoint unificado: monitorizado, atribuido y controlado por políticas.

VMware Cloud Foundation (VCF) ofrece la plataforma de private cloud de nivel empresarial que hace posible la IA soberana. Construido sobre vSphere, vSAN y NSX, VCF ejecuta cargas de trabajo de producción de forma totalmente on-premises con la consistencia operativa que las empresas esperan. El servicio Kubernetes de VCF (VKS) proporciona la base de computación sobre la que se despliega y gestiona TrueFoundry AI Gateway.

Juntos, entregan una plataforma de IA auditable y lista para producción que mantiene cada interacción con los modelos dentro de la propia infraestructura del cliente, sin ninguna dependencia de servicios cloud externos para la gobernanza, el registro de logs o la aplicación de políticas.

Capacidades clave

Todas las capacidades enumeradas a continuación han sido validadas en VMware Cloud Foundation con vSphere Kubernetes Service.

- Acceso unificado a modelos — Un único endpoint de API enruta las solicitudes a cualquier combinación de modelos de IA on-premises y cloud. Los equipos utilizan una interfaz estándar independientemente del modelo que esté desplegado detrás, hoy o en el futuro.

- Visibilidad completa del uso — Cada solicitud y respuesta se registra por completo, se almacena on-premises y se puede consultar en tiempo real. Los cuadros de mando de AI Monitoring muestran tendencias de uso, rendimiento de los modelos y desgloses de costes por equipo, proyecto o individuo.

- Controles de presupuesto y límite de tasa (rate limiting) — Los límites de gasto por equipo y por modelo se aplican en el gateway antes de que la solicitud llegue al modelo. Cuando se alcanza un umbral de presupuesto, el acceso se bloquea automáticamente, sin necesidad de intervención manual.

- Guardrails de contenido — Los filtros basados en políticas inspeccionan cada prompt antes de que llegue a un modelo. Las reglas pueden bloquear temas, palabras clave o categorías de contenido específicas, otorgando a los equipos legales y de cumplimiento un control directo sobre lo que la capa de IA procesará y no procesará.

- Caché inteligente de respuestas — Las consultas repetidas se responden desde la caché con un coste de tokens cero, lo que reduce tanto el gasto en API como la latencia de respuesta hasta 67 veces en comparación con una llamada en frío al modelo.

Beneficios empresariales

Soberanía de datos El tráfico de IA nunca abandona el perímetro corporativo. Todas las interacciones con los modelos, los logs y las políticas de gobernanza se ejecutan dentro de VCF. Para los servicios financieros, la atención sanitaria, la defensa y otros sectores regulados, este es el único camino viable para la adopción de IA a nivel empresarial.

Responsabilidad de costes El uso de tokens se rastrea a nivel de solicitud individual y se atribuye al equipo o proyecto que lo generó. Los equipos de plataforma pueden generar informes precisos de chargeback en todas las unidades de negocio utilizando su propia infraestructura, sin depender de las API de facturación de los proveedores de cloud.

Simplicidad operativa TrueFoundry AI Gateway se despliega en la infraestructura VCF existente sin necesidad de nuevas cuentas cloud, proveedores de SaaS adicionales ni planos de gestión independientes. Una plataforma unificada gobierna todo el acceso a la IA desde un panel basado en web, reduciendo la carga operativa para los equipos de TI que ya gestionan VCF.

Casos de uso

Por qué VCF y TrueFoundry

VMware Cloud Foundation es la base demostrada para la private cloud empresarial, ofreciendo la consistencia de infraestructura, la seguridad y la escala operativa de las que dependen las grandes organizaciones. TrueFoundry aporta la capa de gobernanza de IA de la que carecía la TI empresarial: una plataforma de nivel de producción para controlar, observar y atribuir cada interacción de IA en toda la organización.

Esta combinación cierra la brecha entre la ambición en IA y la realidad empresarial. Las organizaciones pueden avanzar rápidamente con la IA —enrutando a modelos en la cloud para ganar agilidad y a modelos on-premises para datos sensibles— mientras mantienen el control de los datos, la disciplina de costes y las capacidades de auditoría que exigen los entornos regulados.

Validado en VMware Cloud Foundation

Todas las capacidades descritas en este documento se han desplegado y validado en VMware Cloud Foundation con vSphere Kubernetes Service. Se está desarrollando una arquitectura de referencia técnica detallada y una guía de despliegue como parte de esta iniciativa conjunta.

Empiece ahora

Para obtener más información sobre el despliegue de TrueFoundry AI Gateway en VMware Cloud Foundation, póngase en contacto con el equipo de Broadcom AI Platform Solutions o contacte directamente con TrueFoundry en www.truefoundry.com.

© 2026 Broadcom Inc. Todos los derechos reservados. VMware Cloud Foundation y vSphere son marcas comerciales de Broadcom Inc. TrueFoundry es una marca comercial de TrueFoundry, Inc.