GenAIからエージェントAIへ：Tesseract Talks エピソード3

エンタープライズAIは新たな局面を迎えています。

ここ数年、企業は生成AIを積極的に試してきました。チャットボット、コパイロット、モデル駆動型アプリケーションなどをテストしてきたのです。しかし、初期の熱狂が現実世界での導入へと移行するにつれて、別の課題が浮上しています。それは、孤立したAI機能から、安全に、信頼性高く、大規模に運用できる知的なシステムへと、どのように移行するのか、という問いです。

その問いは、最近の テッセラクト・トークスの中で、 アヌラーグ・ガットグティア氏（TrueFoundry共同創業者兼CEO）と ラグー・セトゥラマン氏（Automation Anywhereエンジニアリング担当副社長）との対談の焦点でした。

彼らは共に、生成AIからエージェントAIへの移行、そしてその移行を大企業内で機能させるために本当に必要なことについて探求しました。

エピソード1を見る： ニクンジュ・バジャージ氏とAIのカオスを制御に変える

エピソード2を見る： アビシェク・チョードリー氏とエンタープライズAIを支える隠れたインフラ

その対談からの主要な洞察をいくつかご紹介します。

大きな転換：モデルからシステムへ

ここ数年、ほとんどのAIに関する議論はモデルを中心に展開されてきました。企業はベンチマークを比較し、プロバイダーについて議論し、プロンプトを試してきました。しかし、ラグー氏が指摘したように、 エンタープライズにおけるエージェントAI これまでの生成AIの導入とは根本的に異なるものとなります。

従来の生成AIアプリケーションは、本質的に「APIとしてラップされたモデル」でした。対照的に、エージェント型AIシステムは、ツール、メモリ、ワークフロー、統合、ガードレールなど、多くの可動部品を含みます。モデルは、はるかに大きなシステムの一部に過ぎません。

これにより、全く新しい課題が生じます。

• プロンプトをどのように管理し、バージョン管理しますか？
• エージェントに内部ツールへのアクセスを安全に許可するにはどうすればよいでしょうか？
• スケーラビリティと信頼性をどのように確保しますか？
• 強力な外部モデルに対して、どのようにガードレールを設けますか？

ラグー氏によると、問題は 適切なモデルを選ぶこと から 適切なインフラストラクチャを設計することへと変化しました。

「AIは、APIとしてのモデルというアプローチから、システム設計の課題へと移行しています」と彼は説明しました。「企業は今、複数のコンポーネントを安全かつ統制された方法で連携させることができるプラットフォームを構築しなければなりません」。

なぜガバナンスがミッションクリティカルになるのか

AIシステムが単にテキストを生成するだけでなく、行動を起こし始めると、ガバナンスは「あれば良いもの」ではなくなります。それは不可欠なものとなります。

アヌラグ氏はこれを具体的な例で説明しました。ユーザーに代わってフライトを予約できるAIアシスタントを立ち上げる旅行会社を想像してみてください。

何が問題になるでしょうか？

たくさんあります。

• ユーザーがシステムを騙して不適切なコンテンツを生成させる可能性があります
• ボットがシステムに何百万もの高価なクエリを殺到させる可能性があります
• エージェントを操作して、他のユーザーのデータにアクセスさせる可能性があります。
• その 生成AIのコスト 利用制限がなければ、制御不能になる可能性があります。

これらはそれぞれ、安全性、コスト管理、アクセス管理、ID強制といった異なるガバナンス上の課題を示しています。

このため、エージェントAIには複数の層にわたるガバナンスが必要です。

• データガバナンス – 機密情報が保護されることを確実にする
• アクセス制御 – エージェントが必要なもののみにアクセスすることを確実にする
• レート制限とコスト管理
• 監査可能性と履歴追跡
• 運用監視とガードレール

パイロット段階を超えて：真のエンタープライズAIの課題

議論から一つ明確な結論を出すとすれば、それは次のことです。

エンタープライズAIの成功は、もはやモデルだけではありません。ライフサイクル管理が重要です。

巧妙なデモを構築するのは簡単です。インテリジェントなエージェントをエンタープライズ規模で安全、確実、かつ信頼性高く運用することが難しいのです。

組織が概念実証（PoC）を超えて本格的な本番環境への展開に進むにつれて、焦点は以下に移る必要があります。

• ガバナンス
• スケーラビリティ
• セキュリティ
• 可観測性
• 制御

TrueFoundryでは、まさにその実現を目指して開発を進めています。エージェントAIを企業で実用化するには、単なるモデル以上のものが必要です。制御、ガバナンス、そして拡張性を考慮したプラットフォームが求められます。