SportsbetがAIゲートウェイを導入、ガードレールの強化とコスト管理を実現

Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support
既存のエージェントおよびコーディング支援ツールのトラフィックから運用を開始。
Sportsbetは、AIの導入拡大に伴うガバナンスを強化し、技術利用とコストを制御するため、一元化されたコントロールプレーンを導入しました。
同社はAWSインフラストラクチャ上にTrueFoundryのAIゲートウェイを構築し、すでにいくつかの「即時」ユースケースで運用を開始しています。
ベンダーの発表によると、このゲートウェイは「Sportsbetのエンジニアリングチーム全体における、すべてのLLMトラフィック、MCP接続されたエージェントのツール呼び出し、およびAIワークロードを一元管理するコントロールプレーン」として機能するように設計されています。
また、「AIモデルの呼び出しと並行して検証ガードレールを実行するため、ポリシーの適用がクリティカルパスに測定可能な遅延をもたらすことはありません」。
両社によると、Sportsbetはこれまでに既存のAIエージェントをTrueFoundry経由で実行するようにプラットフォームを移行し、「利用状況のメトリクス、ガードレール、およびMCP経由のツール可視性を確保」しています。
このエージェントは、「ビジネスアナリストやプロダクトマネージャーが、Jira連携を通じて製品要件定義書やユーザーストーリーを作成するために使用」されています。
コーディング支援ツールのトラフィックも、現在ゲートウェイ経由でルーティングされています。
一元化されたガバナンスにより、Sportsbetは「アプリケーションおよびチームごとのモデル利用状況、トークン消費量、コスト配分を完全に可視化」することで、ガードレールの強化とコスト管理の実現を目指しています。
Sportsbetのデータ・AI担当ゼネラルマネージャーであるNiall Keating氏は、「AIは製品開発や顧客体験のあり方を根本から変えており、Sportsbetは追随するのではなく、先頭に立つつもりです」と述べています。
「難しいのはパイロット運用ではなく、AIをビジネスを大規模に動かす中核的な能力へと昇華させることです。」
TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.
The fastest way to build, govern and scale your AI












.jpeg)

.jpeg)


.jpeg)
.webp)











