Blank white background with no objects or features visible.

「Gartner Hype Cycle for AI Governance 2026」の全編を無料で公開しています。レポートを入手する →

97.8M
AI requests routed through the Gateway in July 2026
99.995%
model request success rate in production

Staffbase は、AIネイティブな従業員体験プラットフォームです。コミュニケーション、IT、人事部門を統合し、つながることが難しい現場の従業員を含むすべてのスタッフに情報を届けます。ブランド化された従業員アプリ、イントラネット、メール、SMS、デジタルサイネージ、Microsoft 365連携に加え、パーソナライズされたポッドキャストや会話型アシスタントといった新しいエージェント体験を提供します。Adidas、Alaska Airlines、DHL、MAN Truck & Bus、Whataburgerなど、1,500社以上の企業がStaffbaseを活用して従業員とのつながりを深めています。Gartner®の「イントラネット・パッケージ・ソリューション」マジック・クアドラント™で3年連続リーダーに選出され、G2の従業員イントラネット部門でもリーダーとして評価されています。本社はニューヨークとドイツのケムニッツにあります。

AIネイティブであるということは、AIがStaffbaseにとって単なる後付けの機能ではなく、製品の基盤であることを意味します。イントラネットのセマンティック検索から会話型アシスタント、パーソナライズされたポッドキャストに至るまで、あらゆる新しい体験は、言語モデルと埋め込み推論をグローバルかつエンタープライズ規模で確実に実行することに依存しています。本ケーススタディでは、StaffbaseがどのようにTrueFoundry AI Gatewayを活用して、広範なマルチリージョンのクラウド環境にまたがる推論を統合し、信頼性の高い単一のプラットフォームへと変貌させたのかを解説します。

課題:広範なクラウド環境におけるエンタープライズ規模のAI運用

StaffbaseがAIをプラットフォームの中核に据える中で直面した困難は、モデルの呼び出しそのものではなく、エンタープライズ向けの従業員体験プラットフォームに求められる規模と地理的範囲で、いかに信頼性の高い推論を実行するかという点でした。

特に3つの課題が浮き彫りになりました。第一に、 圧倒的な規模です。1,500社以上の企業顧客にサービスを提供するAIネイティブなプラットフォームでは、膨大かつ継続的な推論リクエストが発生します。その大半を占めるのが、全顧客のコンテンツ検索や取得を支える埋め込み(embedding)呼び出しです。第二に、 断片化されたプロバイダーとリージョンです。リソースは複数のAzureサブスクリプションやCognitive Servicesアカウントに分散しており、スウェーデンやフランスなどの各リージョンで個別にデプロイされ、それぞれにAPIキー、クォータ、レート制限が存在していました。さらにAWS Bedrockも加わり、これらすべてのトラフィックを手動で調整し、各アカウントの制限内に収めることは不可能に近い状況でした。第三に、 データレジデンシーと信頼性です。欧州に本社を置きグローバルに顧客を持つStaffbaseにとって、推論を適切なリージョン経由でルーティングすることは不可欠であり、従業員のコミュニケーションというミッションクリティカルな性質上、証明可能な稼働率が求められていました。

"Managing AI resources across multiple regions and subscriptions had become too complex to handle manually. We didn't want our engineers thinking about which cognitive account had quota left, or which region a request should land in — we needed one endpoint that just handled it. We were able to manage that with TrueFoundry."

Stefan Staude, Senior Site Reliability Engineer

解決策:すべてのサブスクリプション、リージョン、モデルを統合する単一のゲートウェイ

Staffbaseは、すべてのAIトラフィックを制御する単一のコントロールプレーンとして、TrueFoundry AI Gatewayを採用しました。一つのエンドポイントの背後で、Gatewayは意図的に複雑化されたバックエンドを統合し、その複雑さを開発チームから隠蔽することに成功しました。 

1. 141のデプロイメントと19のモデルを統合するプロキシ

Gatewayにより、Staffbaseは5つのAzureサブスクリプション、AWS Bedrock、28のAzure Cognitive Servicesアカウント、9リージョンにまたがる141のモデルデプロイメントを単一のインターフェースで管理できるようになりました。チームは単一のAPIを呼び出すだけで、最新のフロンティアモデルから専門的な埋め込みモデル、リランキングモデルまで、19種類のモデルにアクセスできます。プロバイダーごとのSDK、キー、エンドポイントを個別に設定する必要はありません。 

Gateway Azure subs Cognitive accounts Regions Routing targets Models
de1 / prod 1 6 4 32 18
us1 / prod 1 5 3 27 18
au1 / prod 1 6 5 23 17
de1 / stage 1 6 4 31 18
de1 / dev 1 + AWS 5 + Bedrock 3 + 1 28 19
Total 5 Azure + 1 AWS 28 Azure accounts 9 regions 141 —

利用可能なモデル(19種類): gpt-5.6-luna, gpt-5.6-sol, gpt-5.6-terra, gpt-5.5, gpt-5.4, gpt-5.1, gpt-5-mini, gpt-5-nano, gpt-4.1, gpt-4.1-mini, gpt-4.1-nano, gpt-4o, claude-sonnet-5, claude-sonnet-4-6, claude-haiku-4-5, Mistral-Large-3, text-embedding-3-large, text-embedding-3-small, cohere-rerank-v3-5.

2. サブスクリプションおよびリージョンをまたぐインテリジェントな負荷分散

ここでGatewayの真価が発揮されます。StaffbaseのAzureキャパシティは、個別のCognitive Servicesアカウントに分割されています。例えば、スウェーデンとフランスのリージョンは同じサブスクリプション内にありますが、それぞれ独自のAPIキー、クォータ、レート制限を持っています。Gatewayは141のデプロイ先すべてを1つの論理的なキャパシティとして統合し、各リクエストを余裕のあるデプロイ先にルーティングします。これにより、アカウントごとのレート制限を自動的に回避し、エンドポイントが飽和した場合にはフェイルオーバーを行います。de1のプロダクションゲートウェイだけでも、 32のルーティングターゲットに負荷を分散しており、すべての環境を合わせるとGatewayは141ものターゲットを管理しています。かつては手動で行っていたキャパシティプランニングの課題は、今やエンジニアが意識する必要のないものとなりました。

“The routing and load balancing across our Azure accounts is the single biggest thing the Gateway does for us. Sweden, France, every deployment gets pooled into one endpoint, and traffic just flows to wherever there’s quota. We prevented hitting rate limits and stopped babysitting capacity.”

Stefan Staude, Senior Site Reliability Engineer

3. データレジデンシーとレイテンシを考慮したマルチリージョンルーティング

プロダクション環境は、prod-de1(ヨーロッパ)、prod-us1(米国)、prod-au1(オーストラリア)といった地域別のゲートウェイとして稼働しており、データレジデンシーとレイテンシの両面で最適な地域からリクエストに応答します。ヨーロッパに本社を置き、世界中にエンタープライズ顧客を抱えるプラットフォームにとって、地域特化型のゲートウェイを通じて推論をルーティングすることは、データを適切な場所に保持しつつ、各地域に信頼性の高いキャパシティプールを提供することにつながります。

4. 大規模なエンベディング処理

トラフィックの内訳を見れば、AIネイティブな製品であることが一目瞭然です。エンベディングが全トラフィックの 97%以上を占めており、StaffbaseのAI体験を支える検索やセマンティック検索の基盤となっています。2月の稼働開始以来、Gatewayはtext-embedding-3-smallに対して約1億820万件、text-embedding-3-largeに対して2,930万件のリクエストを処理しました。さらに、gpt-4o-miniへの生成リクエスト250万件に加え、最新モデルの利用量も増加し続けています。

Model (since Feb, ~177 days) Total requests
text-embedding-3-small ~108.2M
text-embedding-3-large ~29.3M
gpt-5-mini ~2.5M

5. 測定可能な信頼性

従業員向けコミュニケーションにおいてダウンタイムは許されないため、Staffbaseは正式なSLO(サービスレベル目標)に基づいてGatewayを監視しています。直近28日間のローリングウィンドウにおいて、すべてのプロダクション環境で最大99.99998%という「ファイブナイン」を大きく上回る可用性を実現しています。また、想定されるセットアップエラー(レート制限や認証エラー)を除外した場合、モデルリクエストの成功率は99.99%以上を維持しています。

Environment Availability (28d) Success rate (30d)
prod-de1 99.99998% 99.995%
prod-us1 99.99987% 99.995%
prod-au1 99.99674% 99.990%
dev 99.99981% 99.990%
stage-de1 99.99976% 99.984%

6. 機能別・チーム別のコスト可視化

現在、 22の異なる製品機能とチーム がGatewayを通じてトラフィックをルーティングしており、2026年2月から5月の間にStaffbaseがリリースした12の機能すべてがこの仕組みに依存しています。すべてのトラフィックが1つの管理されたインターフェースを通過するため、Staffbaseは利用状況とコストを単一の視点で把握でき、実際のトラフィック量から想定されるよりもはるかに効率的なコスト管理を実現しています。 

迅速なロードマップを支えるサポート体制

これほど深くプラットフォームを採用する場合、ベンダーがチームのスピードに合わせて動くことが不可欠です。Staffbaseは、TrueFoundryの対応力、特に機能リクエストに対する迅速なフィードバックを、AI導入を拡大する上での大きな強みとして挙げています。

成果:1億4,000万件以上の管理されたリクエストと99.99%以上の信頼性

TrueFoundryに集約することで、Staffbaseは断片化していたマルチサブスクリプション・マルチリージョンのAI環境を、チームが摩擦なく開発できる単一の管理プラットフォームへと変革しました。

2月の稼働開始以来、Gatewayは 1億4100万件以上のリクエストを管理し、 (現在は月平均約9780万件)、 292億トークン (入力273億、出力19億)を処理してきました。9つのリージョンにまたがる141のデプロイメント間で負荷分散を行いながら、単一のエンドポイントで最大99.99998%の可用性と99.99%以上の成功率を維持しています。現在、約22の機能やチームがこれを利用しており、2026年にStaffbaseがリリースしたすべてのAI機能は、この基盤の上で稼働しています。

“The Gateway became the layer every AI feature is built on. It gave us one place to run inference at scale, across every region and provider, with the reliability our customers expect — and it did it without our teams having to become infrastructure experts.”

Luca Ghersi, Director of Engineering @ Staffbase

AIゲートウェイを導入するチームへの重要なアドバイス

  • キャパシティは手動管理せず、プール化する。 推論処理が複数のサブスクリプション、アカウント、リージョンに分散している場合、それらを1つの論理的なキャパシティとして統合し、レート制限を回避するゲートウェイを導入することで、運用上の煩雑な作業を大幅に削減できます。
  • 実際のワークロードに合わせて設計する。 AIネイティブな製品では、埋め込み(エンベディング)がトラフィックの大半(ここでは97%以上)を占めることがあります。大量かつ低コストな呼び出しを効率的にルーティングするゲートウェイがあれば、リクエスト数から想定されるコストを大幅に抑えることが可能です。
  • 信頼性を測定可能にする。 ゲートウェイを正式なSLO(サービスレベル目標)に基づいて追跡することで、稼働状況を「期待値」から「確実な数値」へと変え、ミッションクリティカルなコミュニケーションを支える基盤となりました。
  • まずは集約し、その後に属性を割り当てる。 約22の機能に対して1つの管理されたエンドポイントを用意したことで、プロバイダーごとにコストを照合する手間を省き、機能やチーム単位で利用状況とコストを可視化できるようになりました。

結論

Staffbaseの事例は、エンタープライズ規模でAIネイティブな製品を実現するために、推論インフラをゼロから構築する必要はないことを示しています。TrueFoundryのAI Gatewayを標準採用し、推論の統合、インテリジェントなマルチリージョン負荷分散、コストの可視化を実現したことで(5つのAzureサブスクリプション、AWS Bedrock、28のCognitive Servicesアカウント、141のデプロイメントを統合)、Staffbaseは1億4000万件以上のリクエストを99.99%以上の信頼性で処理する規模へと成長しました。同時に、各チームが次世代の従業員体験を構築するための信頼できる基盤を提供しています。

The fastest way to build, govern and scale your AI

MLパイプラインを初日から運用

パイプライン