Sportsbet implementa gateway de IA para aplicar diretrizes e gerenciar custos

Começa com agentes existentes e tráfego de assistentes de codificação.

A Sportsbet implementou um painel de controle centralizado para governar sua crescente adoção de IA e controlar o uso e os custos da tecnologia.

A empresa implementou o gateway de IA da TrueFoundry em sua infraestrutura AWS e já está executando alguns casos de uso "imediatos" por meio do gateway.

O gateway foi projetado para atuar como um “painel de controle centralizado para todo o tráfego de LLM, chamadas de ferramentas de agentes conectadas por MCP e cargas de trabalho de IA em todas as equipes de engenharia da Sportsbet”, afirmou o fornecedor em um comunicado.

Ele também executa “diretrizes de validação em paralelo com as chamadas de modelo [de IA], para que a aplicação de políticas não adicione latência mensurável ao caminho crítico”.

Até agora, a Sportsbet migrou um agente de IA existente para rodar via TrueFoundry “para obter métricas de uso, diretrizes e visibilidade de ferramentas roteadas por MCP”, disseram as duas empresas.

O agente é “usado por analistas de negócios e gerentes de produto para redigir documentos de requisitos de produto e histórias de usuário por meio da integração com o Jira”.

O tráfego de assistentes de codificação também está sendo roteado pelo gateway agora.

Com a governança centralizada, a Sportsbet busca essencialmente aplicar diretrizes e gerenciar custos por meio de “visibilidade total do uso de modelos, consumo de tokens e atribuição de custos por aplicação e equipe”.

"A IA está remodelando a forma como construímos produtos e a experiência do cliente, e a Sportsbet pretende liderar, não seguir", disse Niall Keating, gerente geral de dados e IA da Sportsbet.

“A parte difícil nunca foi o projeto piloto; é transformar a IA em uma capacidade central que gerencia o negócio em escala.”

Leia o artigo completo aqui: https://www.itnews.com.au/news/sportsbet-deploys-ai-gateway-to-enforce-guardrails-manage-costs-627995