ブラウザからプロンプトへ:Agentic Internetのためのインフラ構築
.webp)
Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support
AI agentは、人間がウェブと対話する方法を変えつつあります。2年前、オンラインで作業を完了させるには、ブラウザを開き、ウェブサイトにアクセスし、手動でタスクをこなす必要がありました。今日では、AI agentが自然言語の指示に基づいて自律的に処理を行います。
航空券を予約するためにChromeを開く代わりに、agentに「来週の金曜日の東京行き最安値の航空券を探して」と伝えるだけで、すべてが処理されます。私たちは、この人間主導のブラウジングからプロンプト駆動型の実行へのシフトをagentic internetと呼んでいます。
ほとんどの組織は、これに対する準備ができていません。Deloitteの2025年調査では、エージェント型AIソリューションをプロダクション対応できている組織はわずか14%にとどまることが明らかになりました。このギャップはモデルの能力の問題ではなく、インフラストラクチャの問題です。
ブラウザからプロンプトへとはどういう意味か?
従来のウェブインタラクションは予測可能なパターンに従います。人間がブラウザを開き、URLにアクセスし、ページを視覚的に解釈してアクションを実行します。
一般的なエンタープライズワークフローを考えてみましょう。Salesforceを開いて顧客レコードを検索します。注文履歴を確認した後、別のタブでZendeskを開いてサポートチケットを作成します。手動でシステム間に情報をコピーし、Slackを開いて同僚に通知します。10分が経過し、15回のクリックが行われ、3つのブラウザタブが開いたままになります。
プロンプト駆動型実行
プロンプト駆動型実行では、「Acme Corpの出荷遅延に関するサポートチケットを作成し、直近3回の注文を含めてください」と入力します。
agentはMCP経由でSalesforceに接続して顧客データを取得し、別のMCPサーバー経由でZendeskを開き、チケットを作成して、すべてのフィールドに自動で入力します。1つのプロンプトが数千のクリックに置き換わります。しかし、これをプロダクション環境で動作させるには、既存のシステムでは提供できないインフラが必要です。
従来のインフラが不足する理由
大規模でAI agentを実行すると、既存のシステムでは対応できるように設計されていない新たな要件が発生します。
セッションおよびステート管理
従来のブラウザ自動化はステートレスに動作します。各スクリプトの実行は新規で始まります。agentはこれと逆のことを要求します。マルチステップのワークフローを完了するAI agentは、複数のシステム間でのインタラクション全体で文脈を維持し、一度認証を行い、そのセッションを数十のツール呼び出しにわたって保持する必要があります。
アンチボット検出
主要なウェブサイトはすべて、CAPTCHAチャレンジ、ブラウザフィンガープリント、行動分析など、自動化されたアクセスをブロックする対策を展開しています。PuppeteerやPlaywrightなどの標準的な自動化ツールは、明白な自動化シグネチャを残すため、即座に検出されます。
ツールオーケストレーションの複雑さ
AI agentは、APIを呼び出し、データベースをクエリし、Slackメッセージを送信し、Jiraチケットを作成し、CRMレコードを更新します。各統合には従来、カスタムの認証フロー、リクエスト/レスポンスのフォーマット、エラー処理、再試行ロジックが必要でした。標準化がなければ、チームは時間の80%を統合の配管作業に費やすことになります。
可観測性(Observability)の課題
AI agentが失敗した場合、その原因はどこにでもある可能性があります。モデルがタスクを誤解したのかもしれません。ウェブページのレイアウトが変更されたのかもしれません。APIが予期しないレスポンスを返したのかもしれません。認証トークンが期限切れになったのかもしれません。エンドツーエンドのトレースがなければ、デバッグはほぼ不可能です。
MCP:Agentとツールの通信のための標準プロトコル
Anthropicは、ツール統合の問題を解決するためにModel Context Protocol (MCP)を導入しました。すべてのシステムに対してカスタムコードを記述する代わりに、開発者は標準化されたJSON-RPCインターフェースを介して機能を公開するMCPサーバーにツールをラッピングします。
MCPの仕組み
agentがMCPサーバーに接続すると、ディスカバリーハンドシェイクを実行します。agentは`initialize`リクエストを送信し、サーバーは機能とプロトコルバージョンで応答します。次にagentは`tools/list`を呼び出して利用可能なツールを発見し、サーバーはパラメータと説明を含むツールスキーマを返します。
agentは実行時にどのツールが利用可能かを学習するため、ハードコーディングは不要です。Anthropic、OpenAI、Microsoftを含む主要なAIプロバイダーがMCPを採用しています。

ただし、MCP単体ではプロトコル層のみを処理します。プロダクションシステムには、認証、アクセス制御、レート制限、監査ログのための追加のインフラストラクチャが必要です。
プロダクション環境向けAgentic AIのためのGatewayパターン
プロダクション環境でのデプロイには、AI agentとバックエンドツールの間にゲートウェイが必要です。ゲートウェイは、すべてのagentとツールのインタラクションを管理するための集約されたコントロールプレーンを提供します。
Gatewayのコア機能
適切に設計されたゲートウェイは統合認証を処理し、agentは一度認証するだけで、ゲートウェイがすべてのバックエンド認証情報を管理します。レート制限、RBAC、ガードレールを通じて集約されたポリシー適用を提供します。ゲートウェイは、自動フェイルオーバー、指数バックオフによる再試行、ロードバランシングを通じて信頼性を確保します。また、OpenTelemetryによる完全なトレースとチームごとのコストアトリビューションにより、可観測性を提供します。

TrueFoundryがプロンプト駆動型実行を有効化する方法
TrueFoundryのAI Gatewayは、プロダクション環境のagentic AIのためのインフラストラクチャ層を提供します。LLMルーティング、MCPサーバー管理、agentガバナンスを1つの統合されたコントロールプレーンに結合します。
集約されたMCPレジストリ
MCP Gatewayは、すべてのMCPサーバー(社内ツール、サードパーティサービス、クラウドホスト型またはオンプレミスアプリケーション)のための集約されたレジストリを提供します。`dev-mcps`、`staging-mcps`、`prod-mcps`などのグループにサーバーを整理し、各環境に別々のRBACルールを設定できます。agentは一度認証を行えば、利用可能なすべてのツールを自動的に発見します。ゲートウェイはシークレットストアに認証情報を保存し、トークンのリフレッシュを処理します。

既存のインテグレーション
TrueFoundryには、Slack、GitHub、Confluence、Sentry、Datadog向けのMCPサーバーインテグレーションが標準で含まれています。また、カスタムの内部APIも数分で登録可能です。実装の詳細についてはMCP Serversドキュメントをご覧ください。
AI Gateway Playground
AI Gateway Playgroundを使用すると、開発者はデプロイ前にワークフローのプロトタイプを作成できます。MCPサーバーを追加し、特定ツールを選択し、自然言語プロンプトを実行して、すべてのツール呼び出しとレスポンスをリアルタイムで観察できます。Playgroundは、NodeJs、cURLなどのプロダクション対応コードスニペットも生成します。
エンタープライズレベルの可観測性
TrueFoundryは、ゲートウェイ全体にOpenTelemetry準拠のトレースを組み込んでいます。すべてのリクエストには、スパンメタデータを含むリクエストレベルの詳細、ステップごとのagent実行トレース、P50、P95、P99でのレイテンシーメトリクス、チームまたはアプリケーションごとのアトリビューションを含むコストの内訳が含まれます。ゲートウェイは、インメモリで認証とレート制限を処理することにより、単一のvCPUでサブ3msのレイテンシーかつ350+ RPSを処理します。
セキュリティとコンプライアンス
このプラットフォームは、Access Control設定によるツールレベルのRBAC、プロンプトインジェクション、PII、有毒性に対する入出力検証ガードレール、およびOkta、Azure AD、カスタムIdPとのOAuth 2.0統合を提供します。TrueFoundryは、SOC 2、HIPAA、EU AI Actのコンプライアンスを維持しながら、VPC、オンプレミス、エアギャップ、マルチクラウド環境全体でのデプロイをサポートします。
インフラストラクチャのギャップは現実的である
Gartnerの予測によると、インフラの準備ができていないため、2027年までに40%以上のエージェント型AIプロジェクトが中止されるとされています。IBMのレポートによると、エンタープライズ開発者の99%がAI agentを検討していますが、ほとんどは自律実行用に設計されていないシステムにAIを後付けし続けています。成功しているチームは、インフラストラクチャをプロジェクト固有の関心事ではなくプラットフォーム投資として扱っています。彼らはまずコントロールプレーンを構築し、それからスケールさせています。
結論
ブラウザからプロンプトへのシフトは、エンタープライズにおけるagentic AIがシステムにわたって作業を実行する方法を根本的に変えます。インターフェースをクリックする代わりに、AI agentは自然言語の指示に基づいて複雑なワークフローを実行します。
この移行のためのインフラストラクチャを構築するには、従来のシステムが対応するように設計されていない問題を解決する必要があります。ステートフルなワークフローのためのセッション管理、カスタムコードなしのツールオーケストレーション、非確定的な動作のための可観測性、そして自律型システムのためのセキュリティコントロールが必要です。
TrueFoundryのAI Gatewayは、LLMルーティング、MCPサーバー管理、agentガバナンスを組み合わせた統合コントロールプレーンを通じて、これらの課題に対処します。エンジニアリングチームは、インフラストラクチャスタック全体を再構築することなく、ブラウザ駆動型ワークフローからプロンプト駆動型自動化へと移行できます。
よくある質問(FAQ)
1. ブラウザ自動化とエージェント型ブラウジングの違いは何ですか?
Puppeteerのようなツールは、すべてのアクションに対して明示的な指示を必要とします。エージェント型ブラウジングは、AIを使用して自然言語の目標を解釈し、視覚的な理解に基づいて自律的にアクションを決定します。
2. なぜAI agentにゲートウェイが必要なのですか?
直接接続すると、認証情報の無秩序な拡散、重複した再試行ロジックが発生し、agentの動作に対する可視性が失われます。ゲートウェイは認証を集約し、ポリシーを適用し、すべてのインタラクションをトレースします。
3. MCPとは何ですか?
Model Context Protocolは、AI agentが一貫したJSON-RPCインターフェースを介してツールを発見および呼び出す方法を定義します。agentは、ハードコードされた統合なしで実行時に利用可能なツールを学習します。
4. TrueFoundryのMCP Gatewayはカスタムインテグレーションとどのように異なりますか?
TrueFoundryは、ビルド済みのコネクタ、統合レジストリ、集約されたRBAC、OpenTelemetry可観測性、インタラクティブなPlaygroundを提供します。同等のインフラストラクチャを構築するには数ヶ月かかります。
5. プロダクション環境のagentic AIにはどのようなセキュリティコントロールが必要ですか?
プロダクション環境のデプロイには、ツールレベルのRBAC、プロンプトインジェクションやPIIに対する入力ガードレール、出力検証、エンタープライズIdP統合、および包括的な監査ログが必要です。
TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.














.webp)





.webp)
.webp)
.png)

.png)
.png)
.png)
.png)
.png)
.webp)
.webp)






