Blank white background with no objects or features visible.

「Gartner Hype Cycle for AI Governance 2026」の全編を無料で公開しています。レポートを入手する →

エージェントセキュリティはシステムの問題である:プロンプトインジェクションからランタイム制御まで

By Boyu Wang

Published: October 8, 2026

LLMエージェントのセキュリティに関する2026年の主要な調査は、企業チームが真剣に受け止めるべき結論を導き出しています。モデルがツールを使用し、状態を保持し、他者に代わって行動できるようになると、セキュリティはもはや単なるプロンプトフィルタリングの問題ではなくなります。それは、以下の要素にまたがるシステムの問題となります。 情報の流れ、委任された権限、永続的な状態。

Security Framework Notes and Key Takeaways
Source and independence note. This article is grounded in Yuchen Ling, Shengcheng Yu, Zhenyu Chen, and Chunrong Fang, Toward Secure LLM Agents: Threat Surfaces, Attacks, Defenses, and Evaluation (arXiv:2606.10749, revised August 23, 2026), which synthesizes 247 papers. The mapping from the survey's security framework to TrueForge and TrueFoundry products is TrueFoundry editorial analysis; the paper does not evaluate or endorse TrueFoundry.
The infrastructure thesis: secure agents need more than model-level safety. The runtime should make trust boundaries and state transitions explicit; shared gateways should enforce identity, access, policy, credentials, budgets, guardrails, and evidence at model, tool, and agent boundaries; and systems of record should remain authoritative for business state and side effects.

Key Takeaways

  • Prompt injection is only one part of the problem. The survey finds tool-mediated control-flow hijacking remains prominent, while persistent-state corruption and multi-agent propagation are increasingly important.
  • Agent security has three coupled dimensions. Information enters the agent, authority lets it act, and persistent state lets an attack outlive the original interaction.
  • Controls need to compose across layers. A sandbox, guardrail, approval workflow, or gateway is useful, but none establishes security for the entire agent by itself.
  • TrueForge maps to the runtime boundary. It provides the execution loop, context management, tools, sandboxing, approvals, sessions, and events for agents built on it.
  • TrueFoundry Gateways map to shared control planes. AI Gateway governs routed model calls; MCP Gateway governs routed tool/data access; Agent Registry establishes identity, ownership, and access for registered agents, while broader Agent Gateway controls can add quotas, budgets, and traces for routed agent traffic.
  • Provenance-aware state remains an application responsibility. Persisting events is not the same as proving the integrity or trustworthiness of every piece of memory or business state.

1. エージェントのセキュリティがLLMの安全性と異なる理由

この調査は、単純なアーキテクチャ上の事実から始まります。LLMエージェントは単にテキストを生成するだけではありません。計画を立て、ツールを呼び出し、ブラウジングを行い、コードを実行し、状態を更新し、他のエージェントと連携することさえあります。これらの機能により、モデルの出力はソフトウェアの制御フローへの入力へと変わります。

それが障害モードを変化させます。Webページに隠された悪意のある指示は、後のツール呼び出しに影響を与える可能性があります。汚染されたツールの結果は、別の意思決定のコンテキストになるかもしれません。侵害されたメモリのエントリは、元のセッションを超えて存続する可能性があります。委任された認証情報は、誤った計画を現実の副作用へと変えてしまう恐れがあります。マルチエージェントシステムでは、汚染された情報が最初に遭遇したエージェントを超えて伝播する可能性があります。

そのため、この調査ではエージェントのセキュリティを、相互に作用する3つの特性を中心に構成しています。

Three interacting security properties for AI agents: information flow, delegated authority, and persistent state.
図1。 調査のシステムモデルに関するTrueFoundryによる編集上の統合。信頼できない情報が、委任された権限や永続的な状態と交差するとき、リスクは増大します。

ここから得られる有益な示唆は、セキュアなエージェントのアーキテクチャにおいて「悪意のあるプロンプトをブロックしたか?」と問うだけでは不十分だということです。次のように問うべきです。 そのコンテンツは何に影響を与え得るか、その結果生じる軌跡はどのような権限を行使し得るか、そしてその軌跡はどのような状態を残し得るか。

2. 攻撃対象領域はエージェントのライフサイクル全体に及ぶ

Ling氏らは、攻撃名のリストを並べるのではなく、ライフサイクルに基づいたシステム指向のフレームワークを採用しています。運用上、入力、計画、意思決定、ツール実行、出力というコアとなるアクションパスを、メモリ、監視、マルチエージェント調整といった横断的な領域から分離することは有益です。これらの領域は、実行の複数の段階に影響を与えたり、それを観測したりできるためです。

Agent lifecycle from input through planning, decision, tool execution, and output, with memory, monitoring, and coordination shown as cross-cutting security surfaces.
図2。 コアとなるライフサイクルは、入力 → 計画 → 意思決定 → ツール実行 → 出力です。メモリ、監視、調整は、単に事後的に発生するのではなく、複数の段階に影響を与えたり観測したりできる横断的な領域です。

このライフサイクルの視点は、調査で指摘されているように、防御がなぜ「弱くしか構成できない(weakly compositional)」のかを説明しています。コンテンツフィルターは特定のクラスの悪意のあるテキストをブロックできても、権限が過剰な認証情報には無力かもしれません。サンドボックスはコード実行を封じ込めても、許可されたAPI呼び出しを防ぐことはできません。承認ゲートは一つの副作用を止めても、汚染されたメモリへの書き込みを防ぐことはできません。トレースはインシデントを観測可能にしても、それを未然に防ぐことはできません。

したがって、セキュリティは以下の要素から生まれます。 構成 境界、権限、状態制御、およびエビデンスについて。

3. 調査結果とTrueForgeおよびTrueFoundryのマッピング

最も明確な製品マッピングは、「TrueFoundryがエージェントのセキュリティを解決する」というものではありません。調査のシステムモデルにおいて、各レイヤーが現実的にどの部分を制御できるかを問いかけることです。

‍

‍

Try now.

One gateway for all your models, MCP servers, and agents.
No credit card needed.

Start free
Table of Contents

One Gateway for Every LLM, Agent and MCP Server

Book a 30-min with our AI expert

Book a Demo

The fastest way to build, govern and scale your AI

Book Demo
Summarize with
ChatGPT logo by OpenAI
Perplexity AI logo
Blurry red snowflake on white background, symmetrical frosty design with soft edges and abstract shape.

Discover More

No items found.
What is an Agent Gateway
October 12, 2026
|
5 min read

エージェントゲートウェイ:エンタープライズ向けマルチエージェントAIワークフローの統合

No items found.
October 12, 2026
|
5 min read

エージェントゲートウェイのご紹介:本番環境のエージェント向け統合制御レイヤー

エンジニアリングとプロダクト
LLM・生成AI
October 12, 2026
|
5 min read

エンタープライズAIエージェントセキュリティソリューション:完全な購入ガイド (2026)

No items found.
Types of AI agents governed by TrueFoundry enterprise control plane
October 12, 2026
|
5 min read

AIエージェントの種類:定義、役割、およびエンタープライズ展開におけるその意味

No items found.
No items found.

Recent Blogs

Black left pointing arrow symbol on white background, directional indicator.
Black left pointing arrow symbol on white background, directional indicator.
Take a quick product tour
Start Product Tour
Product Tour