Sportsbet zet AI-gateway in voor beveiliging en kostenbeheersing

Begint met bestaande agents en verkeer van codeerassistenten.

Sportsbet heeft een gecentraliseerd controlepaneel ingezet om de toenemende adoptie van AI te reguleren en het gebruik en de kosten van de technologie te beheersen.

Het bedrijf heeft de TrueFoundry AI-gateway op zijn AWS-infrastructuur geïmplementeerd en verwerkt al enkele "directe" use cases via de gateway.

De gateway is ontworpen om te fungeren als een "gecentraliseerd controlepaneel voor al het LLM-verkeer, MCP-verbonden agent-tool-aanroepen en AI-workloads voor de engineeringteams van Sportsbet", aldus de leverancier in een verklaring.

Het voert ook "validatie-guardrails parallel aan [AI] model-aanroepen uit, zodat beleidshandhaving geen meetbare vertraging toevoegt aan het kritieke pad."

Tot nu toe heeft Sportsbet een bestaande AI-agent geherplatformeerd om via TrueFoundry te draaien "om gebruiksstatistieken, guardrails en inzicht in MCP-gerouteerde tools te verkrijgen", aldus de twee bedrijven.

De agent wordt "gebruikt door businessanalisten en productmanagers om via Jira-integratie productvereistendocumenten en user stories op te stellen."

Verkeer van codeerassistenten wordt nu ook via de gateway gerouteerd.

Met gecentraliseerd beheer richt Sportsbet zich in essentie op het afdwingen van guardrails en het beheren van kosten via "volledig inzicht in modelgebruik, tokenverbruik en kostentoerekening per applicatie en team."

"AI verandert de manier waarop we producten en klantervaringen bouwen, en Sportsbet wil voorop lopen, niet volgen", aldus Niall Keating, general manager data en AI bij Sportsbet.

"Het moeilijke deel was nooit de pilot; het gaat erom AI te veranderen in een kerncapaciteit die het bedrijf op schaal draaiende houdt."

Lees het volledige artikel hier:https://www.itnews.com.au/news/sportsbet-deploys-ai-gateway-to-enforce-guardrails-manage-costs-627995