AIの混沌を制御へ変える：Tesseract TalksとのエージェンティックAIに関する対談

企業が大規模言語モデルの実験段階から、エージェントAIシステムを本番環境に導入する段階へと移行するにつれて、新たな課題が浮上しています。チームはこれまで以上に迅速に動いていますが、しばしば異なる方向性を持っています。モデル、ツール、フレームワーク、エージェントは増殖しており、その成長に伴い、断片化が生じています。

Tesseract Talksの最近のエピソードで、John K. ThompsonはTrueFoundryの共同創設者兼CEOであるNikunj Bajaj氏と対談し、大規模組織内でエージェントAIをスケールさせるために本当に必要なことについて探りました。

対談から得られた最も重要なポイントをいくつかご紹介します。

シンプルなLLMアプリから複雑なエージェントシステムへ

AIシステムは、特にこの1年で劇的に進化しました。

かつてはツールを伴う単一のLLM呼び出しだったものが、今では連携して動作するコンポーネントのネットワークになりました。本番環境レベルのエージェントは通常、以下を組み合わせます。

• 複数のLLM（多くの場合、ベンダーやクラウドをまたいで）
• モデルコンテキストプロトコル（MCP）およびツール
• 安全性、プライバシー、コンプライアンスのためのガードレール
• プロンプトとオーケストレーションロジック
• 階層的に構成されたその他のエージェント

Nikunj氏が説明したように、この複雑さは偶然ではなく、エージェントの能力向上による自然な結果です。しかし、それは同じ企業内の異なるチームが、異なるスタックやフレームワークを使用して、非常に異なる方法でエージェントを構築していることを意味します。

その柔軟性はチームが迅速に動くのに役立ちます。しかし、大規模になると混乱も生み出します。

企業が直面する真の課題：スピードと統制

企業は、チームに実験と迅速な価値提供のための自律性を与えつつ、同時にセキュリティ、ガバナンス、コストに関する企業全体の整合性を維持するという、2つの相反する力のバランスを取る必要に迫られています。Nikunj氏はこれを「中央集権型ガバナンスによる連邦型実行」と表現しました。

初期段階では、チームが小規模であれば自律性はうまく機能します。しかし、組織が成長するにつれて、ポリシー、予算、監視が不可欠になります。人間の従業員は柔軟に業務を行いますが、構造化されたシステムの中で動きます。エージェントAIも同様のものを必要とします。

エージェントAIも同様のものを必要とします。

ここで、という考えが AIゲートウェイ そこでAIゲートウェイの出番となります。ニクンジュ氏によると、ゲートウェイはモデル間のリクエストをルーティングする単なるプロキシをはるかに超えて進化しました。今日では、次のようになりつつあります。

• LLM、MCP、エージェント、プロンプト、ガードレールを統合するエントリーポイント
• クラウドプロバイダーとモデルベンダー全体にわたる正規化レイヤー
• アクセス制御、予算制限、コンプライアンスポリシーを適用する場
• 可観測性とデバッグの基盤

要するに、それは企業がこれまで欠けていた、エージェンティックな司令塔、すなわちコントロールプレーンとなるのです。 

TrueFoundryが考える役割

TrueFoundryでは、エージェンティックAIを単発のプロジェクトの連続とは考えていません。私たちはそれを長期的な変革と捉えています。ニクンジュ氏が説明したように、私たちの焦点は、企業が次のことを行えるよう支援することです。

• エコシステムが進化するにつれて、AIスタックを将来にわたって対応可能にする
• 新しいエージェンティックな機能を既存のインフラストラクチャに統合する
• すべてを自社で構築するか、柔軟性のないツールを購入するかという誤った二者択一を避ける

柔軟なAPI駆動型プラットフォームを提供することで、チームは強固な基盤の上に構築し、コントロールを失うことなく、より迅速に動くことができます。

ニクンジュ氏の言葉を借りれば、「エージェントは行動するための柔軟性を必要とします。企業はそれらを制御するための本部を必要とします。」