Sportsbet implementa una pasarela de IA para aplicar medidas de seguridad y gestionar costes

Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support
Comienza con los agentes existentes y el tráfico del asistente de programación.
Sportsbet ha implementado un plano de control centralizado para regular su creciente adopción de IA y controlar el uso y los costes de esta tecnología.
La empresa ha desplegado la pasarela de IA de TrueFoundry en su infraestructura de AWS y ya está ejecutando algunos casos de uso "inmediatos" a través de ella.
La pasarela está diseñada para actuar como un "plano de control centralizado para todo el tráfico de LLM, las llamadas a herramientas de agentes conectadas por MCP y las cargas de trabajo de IA de los equipos de ingeniería de Sportsbet", afirmó el proveedor en un comunicado.
También ejecuta "medidas de validación en paralelo a las llamadas al modelo [de IA], de modo que la aplicación de políticas no añade una latencia medible a la ruta crítica".
Hasta ahora, Sportsbet ha migrado un agente de IA existente para que funcione a través de TrueFoundry "con el fin de obtener métricas de uso, medidas de seguridad y visibilidad de las herramientas enrutadas por MCP", señalaron ambas empresas.
El agente es "utilizado por analistas de negocio y gestores de producto para redactar documentos de requisitos de producto e historias de usuario mediante la integración con Jira".
El tráfico del asistente de programación también se está enrutando ahora a través de la pasarela.
Con una gobernanza centralizada, Sportsbet busca esencialmente aplicar medidas de seguridad y gestionar los costes mediante una "visibilidad total del uso del modelo, el consumo de tokens y la atribución de costes por aplicación y equipo".
"La IA está transformando la forma en que creamos productos y la experiencia del cliente, y Sportsbet pretende liderar, no seguir", afirmó Niall Keating, director general de datos e IA de Sportsbet.
"Lo difícil nunca fue la prueba piloto; lo difícil es convertir la IA en una capacidad fundamental que dirija el negocio a gran escala".
Lea el artículo completo aquí: https://www.itnews.com.au/news/sportsbet-deploys-ai-gateway-to-enforce-guardrails-manage-costs-627995
TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.
The fastest way to build, govern and scale your AI












.jpeg)

.jpeg)


.jpeg)
.webp)











