.jpeg)
September 11, 2026
|
5 min read
Sportsbet setzt KI-Gateway zur Durchsetzung von Leitplanken und Kostenkontrolle ein
Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support
Der Start erfolgt mit bestehenden Agenten und dem Datenverkehr von Programmierassistenten.
Sportsbet hat eine zentrale Steuerungsebene implementiert, um die zunehmende Nutzung von KI zu verwalten sowie den Einsatz und die Kosten der Technologie zu kontrollieren.
Das Unternehmen hat das TrueFoundry KI-Gateway auf seiner AWS-Infrastruktur bereitgestellt und wickelt bereits einige „unmittelbare“ Anwendungsfälle über dieses Gateway ab.
Das Gateway fungiert laut einer Erklärung des Anbieters als „zentrale Steuerungsebene für den gesamten LLM-Datenverkehr, MCP-gebundene Agenten-Tool-Aufrufe und KI-Workloads der Engineering-Teams von Sportsbet“.
Zudem führt es „Validierungs-Leitplanken parallel zu den [KI-]Modellaufrufen aus, sodass die Durchsetzung von Richtlinien keine messbare Latenz im kritischen Pfad verursacht.“
Bisher hat Sportsbet einen bestehenden KI-Agenten auf die TrueFoundry-Plattform umgestellt, „um Nutzungsmetriken, Leitplanken und Transparenz bei MCP-gerouteten Tool-Aufrufen zu erhalten“, so die beiden Unternehmen.
Der Agent wird „von Business-Analysten und Produktmanagern genutzt, um über eine Jira-Integration Produktspezifikationen und User Stories zu erstellen.“
Auch der Datenverkehr der Programmierassistenten wird nun über das Gateway geleitet.
Durch die zentrale Governance zielt Sportsbet darauf ab, Leitplanken durchzusetzen und Kosten zu verwalten, indem „volle Transparenz über die Modellnutzung, den Token-Verbrauch und die Kostenzuordnung pro Anwendung und Team“ geschaffen wird.
„KI verändert grundlegend, wie wir Produkte entwickeln und Kundenerlebnisse gestalten, und Sportsbet will hierbei führend sein, nicht nur folgen“, sagte Niall Keating, General Manager für Daten und KI bei Sportsbet.
„Die Herausforderung war nie das Pilotprojekt, sondern die KI zu einer Kernkompetenz zu machen, die das Geschäft im großen Maßstab antreibt.“
Den vollständigen Artikel finden Sie hier: https://www.itnews.com.au/news/sportsbet-deploys-ai-gateway-to-enforce-guardrails-manage-costs-627995
TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.
Built for Speed: ~10ms Latency, Even Under Load
The fastest way to build, govern and scale your AI
Sign Up
How Can You Prevent GenAI Costs From Spiraling at Scale?
Gartner Hype Cycle for Platform Engineering 2026
One Layer of Control for All AI
Recent Press
.jpeg)
.jpeg)
.webp)
