OpenTelemetry GenAI Semantic Conventions: AI Observabilityの共通語彙

Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support
OpenTelemetryはGenAIシステムに共通のTelemetry語彙を提供しつつありますが、まだ完成されたユニバーサルスキーマではありません。2026年6月、本プロジェクトはGenAI、プロバイダー固有、およびMCPのSemantic Conventionsを専用リポジトリへと移行し、独立して反復改訂とバージョニングを行えるようにしました。そのリポジトリでは現在、GenAI ConventionsのステータスをDevelopmentとしており、2026年8月21日時点で公式リリースはありません。しかし、その機会は極めて有意義です。モデル操作、Token使用量、Agentのステップ、MCP呼び出し、コンテンツEvent、評価結果の名称を共通化することで、計装(Instrumentation)とObservability Backendの間の変換コストを削減できます。エンジニアリング上の姿勢としては、gen_ai.*がすでに確定していると想定するのではなく、バージョンを意識しながら採用を進めるべきです。
2つのチームがともに正当なOpenTelemetryを出力していても、LLM呼び出しの意味について解釈が一致しないことがあります。 Transportの相互運用性とSemantic(意味論)の相互運用性は異なる課題です。OTLPはシステム間でTelemetryを移動させることができますが、Semantic ConventionsはそのTelemetry内部のフィールドをより一貫して解釈できるようにします。GenAIにおいて、後者の課題は現在も活発に標準化が進められている最中です。
1. なぜGenAIには汎用APM以上のものが必要なのか
汎用的なAPMは、スループット、レイテンシ、エラー、依存関係、サービスの健全性を把握する上で引き続き有用です。しかしGenAIには、それらのシグナルだけでは表現できない独自のSemantic(意味論)が存在します。
確率的な挙動。 同じ論理リクエストであっても異なる出力が生成されるため、デバッグにはリクエストされたモデルと実際に応答したモデル、生成パラメーター、レスポンス識別子、そしてポリシーが許す場合は関連するInputまたはOutput Contextが必要になることが多くあります。完全なコンテンツは有用なデータとなりますが、常に保持することが適切または必要であるとは限りません。
Tokenエコノミクス。 負荷やRate Limitを把握する上でリクエスト数は依然として重要ですが、コストやモデル効率の分析には不十分です。ロングコンテキストの呼び出しが数回行われるだけで、短時間の呼び出しが多数行われるよりも高いコストが発生することがあります。現在のGenAI Metricには、Token使用量や操作の所要時間に加え、Time-to-First-ChunkやTime-Per-Output-Chunkの測定が含まれています。
Agent構造。 モデル呼び出しは、多くのAgentにおけるさまざまな操作の1つにすぎません。Planning、Tool Execution、Retrieval、Workflow、MCP呼び出しが結果を左右する可能性があります。したがって、ObservabilityにはプロバイダーのAPI境界だけでなく、Inferenceの周囲で実行される処理全体を網羅する語彙が必要です。
コンテンツの機密性。 PromptやOutputには、ユーザーや企業の機密データが含まれることが頻繁にあります。OpenTelemetryはそのようなコンテンツをどのように記録するかを定義できますが、それをキャプチャ、保持、エクスポート、マスキング、または制限するかどうかは、データガバナンス上の決定事項となります。
2. 現在のConventionsがカバーする範囲
現在の標準化作業を理解する最も効果的な方法は、単一の成熟度モデルを仮定するのではなく、SignalとOperationごとに確認することです。専用のGenAIリポジトリでは、Conventions全体をDevelopmentとして位置づけています。
モデルおよびInferenceのSpan。 現在のConventionsでは、Inference、Embeddings、Retrieval、Response Fetching、Memory Operations、Tool Executionを含むGenAI Client操作が定義されています。共通の属性にはgen_ai.provider.name、gen_ai.operation.name、リクエストおよびレスポンスのモデル識別子、Input/Output Token使用量が含まれます。Span Timingによって操作の所要時間が提供され、専用のMetricによってToken使用量やレイテンシ関連の測定値が標準化されます。
AgentおよびFrameworkのSpan。 Agent Conventionsでは、create_agent、invoke_agent、invoke_workflow、plan、execute_toolなどの操作が定義されています。これらのSpanを使用することで、計装された実行パスを再構築できるようになります。これらはモデル内部の推論プロセスを露出させるものではなく、該当するFrameworkや計装によって出力されない限り自動的に表示されることはありません。
MCP Conventions。 MCPには、Client/Server Span、W3C Trace Context Propagation、Transportの相関、Toolを認識する属性、mcp.client.operation.durationやmcp.server.operation.durationなどのMetricのための独自のDevelopment Conventionsが存在します。その価値は、MCPの境界を越えて連続性を維持できる点にあります(すべてのMCP実装がすでにこのConventionsを出力していることを保証するものではありません)。
Metricおよびプロバイダー固有のConventions。 リポジトリではClient、Server、Workflow、Agent、Toolに関するMetricが定義されており、OpenAI、Anthropic、Azure AI Inference、AWS Bedrockなどのシステム向けにプロバイダー固有のConventionsが追加されています。

3. コンテンツのキャプチャはOpt-Inによるポリシー上の決定事項
現在のEventであるgen_ai.client.inference.operation.detailsは、メインのTraceとは独立してChat History、パラメーター、Input、Outputを保持できます。その要件レベルは明示的にOpt-Inとされており、OpenTelemetryのドキュメントでは、Eventのサポートがまだすべての言語で利用できるわけではないと注意喚起されています。
これは、PromptやCompletionを通常の診断テキストとして扱うよりも優れたデフォルト設定です。OpenTelemetryはTelemetryの形式を定義しますが、保持期間、リージョン別のストレージ、アクセス制御ポリシー、法的根拠、マスキング要件を決定するわけではありません。これらは引き続き運用者およびBackend側の責任となります。
本番環境にデプロイする際は、コンテンツのキャプチャを有効にする前にポリシーを策定してください。どの環境で完全なコンテンツの取得を許可するか、何をフィルタリングまたはトリミングするか、エクスポートされたTelemetryの送信先、保持期間、アクセス権限を持つユーザーなどを定義します。
4. これがGatewayにとって意味すること
Gatewayは、実際に通過するモデルトラフィックに対して強力な出力ポイントとなります。Gatewayは、アプリケーションの各チームに個別の収集基盤を再構築させることなく、リクエストおよび応答モデル、レイテンシ、プロバイダーの結果、Token使用量、ルーティング挙動、コスト入力を監視します。ただし、Gateway単体で完全なAgent Traceとなるわけではありません。アプリローカルなPlanning、Retrieval、Tool処理、あるいはGatewayをバイパスする呼び出しについては、それらのレイヤーでの計装が必要となります。
TrueFoundryはすでにOpenTelemetry経由でのエクスポートに対応しています。 AI Gatewayは、互換性のあるObservabilityプラットフォームへのTraceおよびMetricのOTLPエクスポートをサポートしています。TrueFoundryの現在のエンジニアリング資料では、GatewayのContextやコストに関するTrueFoundry固有の拡張機能に加え、gen_ai.provider.name、gen_ai.operation.name、gen_ai.request.model、gen_ai.response.model、gen_ai.usage.input_tokens、gen_ai.usage.output_tokensなどの現代的な属性を使用したプロバイダーSpanについてもドキュメント化されています。(OpenTelemetry export docs、TrueFoundry's gateway instrumentation guideを参照。)
MCPの可視化を同じ運用プレーン上に統合できます。 TrueFoundryのMetrics Dashboardは、AI/MCP Gatewayを経由してルーティングされる呼び出しについて、MCPトラフィック、サーバー、Tool、エラー、レイテンシをトラッキングします。これは、Agentローカルなステップに対するアプリケーションやハーネスの計装を代替するものではなく、相互に補完する関係にあります。(Metrics Dashboard、MCP Gateway overviewを参照。)
Agent Runtimeは相互補完的なObservabilityの境界となります。 TrueFoundryのオープンソースAgentハーネスであるTrueForgeは、MCP Tool、Skill、サンドボックス処理、承認、Context管理、永続セッションを備えたModel/Toolループを実行します。そのSDKモデルは明示的な「Agent → Session → Turn → Event」の階層構造を公開しており、MCPの初期化、モデルメッセージ、Toolレスポンス、承認、Turn完了に関するストリーミングEventを提供します。これらのRuntime Eventは、GatewayがモデルやMCPトラフィックのみから推測することのできないAgentレベルのContextを保持しています。
公開にあたって正確を期すため、統合に関する主張よりも意図的に限定的な表現をとっています。この記事は、TrueForgeが現時点で最新のOpenTelemetry GenAI Semantic Conventionsを出力していると主張するものではありません。TrueForgeは、TrueFoundry AI GatewayがすでにエクスポートしているOTLP Traceと計装または相互関連付けることができる、オープンで検査可能なRuntimeサーフェスを提供します。この役割分離はアーキテクチャとして非常に有用です。ハーネスはAgentが何を行っているかを把握し、Gatewayは自身のポリシー境界を通過したものを把握します。そしてOpenTelemetryは、これらの計装されたレイヤーに対して共通のTransportと、進化を続ける共通語彙を提供します。
外部へのTraceエクスポートには明示的なコンテンツ制御機能が存在します。 TrueFoundryのOTel統合ガイドには、Token、レイテンシ、モデルメタデータなどの構造化されたTelemetryを保持したまま、エクスポートされるSpanからtfy.input、tfy.output、tfy.input_short_handを削除するExclude Request Dataオプションが記載されています。これは、TrueFoundryにおけるコンテンツフィールドのデータ送出(Egress)を制御するための有用な手段です。ただし、各チームは自身が出力するその他の標準属性やカスタム属性についても個別にレビューを行う必要があります。(example integration documentationを参照。)
評価(Evaluation)は独立した計算処理として維持されます。 TrueFoundryはTraceに対する外部評価ワークフローをサポートしており、OpenTelemetry ConventionはEvaluatorの結果を表現するための標準的な場所を提供します。これらを1つの主張として混同しないでください。Telemetryは証拠(Data)を搬送し、Evaluatorがそれを解釈します。(online evaluationを参照。)

5. 推奨される運用アプローチ
OTLPのポータビリティとSemantic Conventionの成熟度を区別して考慮します。 GenAIのフィールド名が進化を続けている最中であっても、現時点でOpenTelemetry経由でTraceとMetricをエクスポートすることには十分な価値があります。
実際に出力するSemanticsのバージョンを固定し、テストを行います。 GenAIリポジトリはDevelopment段階にあり、従来のCore定義からの移行が行われているほか、言語ごとのサポートも均一ではありません。出力する属性セットをバージョニングされたインターフェースとして扱い、運用するBackendや計装ライブラリとの互換性をテストしてください。
各制御境界および実行境界において、実際に観測可能なデータを対象に計装を行います。 Gatewayは、モデルトラフィックやGatewayを経由するMCPトラフィックの計測に非常に適しています。一方で、Planning、ローカルTool、Retrieval、状態遷移など、Gatewayを通過しない処理については、依然としてAgent/ハーネス側での計装が必要です。
AgentのSemanticsが必要な場合は、ハーネスの境界で計装を行います。 TrueForgeを使用する場合、そのSession、Turn、Eventモデルによって明確なRuntime識別子やTool/Approval Eventが提供され、これらをGateway Traceと相互関連付けることができます。Observabilityポリシーで許可された相関用メタデータのみを伝送し、デフォルトで機密性の高いEventペイロードをSpan属性にコピーしないようにしてください。
ポリシーに基づき、コンテンツのキャプチャをOpt-Inに設定します。 エクスポート前にコンテンツの最小化とフィルタリングを行い、Observability Backend側で保持期間とアクセス制御を設定します。OpenTelemetryのフィールド名とデータガバナンスポリシーを混同しないようにしてください。
評価処理は切り離しつつ、相互に関連付けます。 ワークロードに適したEvaluatorを使用して品質や安全性を計算し、サポートされている場合は標準のEvaluation-Result Eventを使用して、その結果をレスポンスを生成した処理に関連付けます。
カスタム属性は置き換えではなく拡張として使用します。 TrueFoundryのGatewayおよびコスト関連のメタデータなど、プロダクト固有のフィールドは非常に有用です。汎用的なツールが引き続き共通サーフェスを利用できるよう、標準属性もあわせて保持するようにしてください。
6. 標準化が及ぶ範囲と限界
Semantic Conventionsは語彙の課題を解決するものであり、Observabilityのあらゆる課題を解決するわけではありません。専用のOpenTelemetry GenAIリポジトリは現在もDevelopment段階にあり、言語やライブラリによる実装のカバー範囲は様々です。また、同じTelemetryであってもインデックス作成、クエリ、描画、保持、課金体系などの扱いはBackendによって異なる場合があります。完璧なSemantic Conventionsの適用であっても、それは計装によって観測可能な範囲を表現しているに過ぎず、モデル内部の未露出の推論プロセスを明らかにしたり、未計装の実行を可視化したりするものではありません。
TrueFoundryにおいて明確に言える範囲は具体的です。AI GatewayはOTLP経由でTraceおよびMetricをエクスポートでき、TrueFoundry固有の拡張機能とともに最新スタイルのgen_ai.*属性をドキュメント化しています。これにより、各チームは独立して進化するGenAI Conventionsが確定していると過信することなく、標準に基づいたエクスポートパスを利用できます。特定のSemantic Conventionバージョンが調達やガバナンス上の要件となっている場合は、依存している出力属性セットや言語/Backendのサポート状況を具体的に検証してください。
References
- OpenTelemetry — GenAI semantic conventions overview (current status: Development).
- OpenTelemetry — GenAI client spans, metrics, and agent/framework spans.
- OpenTelemetry — MCP semantic conventions for client/server spans, propagation, and metrics.
- OpenTelemetry — GenAI events, including opt-in inference details and
gen_ai.evaluation.result. - OpenTelemetry — core semantic-conventions v1.42.0, which moved GenAI definitions to the dedicated repository.
- TrueFoundry — OpenTelemetry trace and metrics export; AI Gateway instrumentation guide; Metrics Dashboard; MCP Gateway overview.
- TrueFoundry — online evaluation, as a separate computation over observability evidence.
- TrueForge — agent harness overview and SDK concepts, documenting the Agent → Session → Turn → Event hierarchy and runtime events for model, MCP, tool, approval, and completion activity. This post does not claim native conformance of those events to the latest GenAI semantic conventions.
OpenTelemetry GenAIのステータスおよびフィールド名は、2026年8月21日時点の専用GenAI Semantic-Conventionsリポジトリに基づいて記載されています。該当リポジトリはDevelopment段階であり、同日付での公式リリースはありません。TrueFoundry製品に関する記述は、公開されている最新のドキュメントおよびエンジニアリング資料(OTLPエクスポート、Gatewayの可視性、MCP Metric、ドキュメント化されたgen_ai.*属性、エクスポート時の特定tfy.*コンテンツフィールドのフィルタリング機能)の範囲に限定されています。本記事は、リリース前の特定のOpenTelemetry GenAIリポジトリのコミットに対する完全な準拠を主張するものではありません。
TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.





















