Datadog LLM Observability Pricing 2026: Was es tatsächlich kostet

Der Name hat sich geändert — und das Preismodell ebenfalls

Die Umbenennung ist für den Einkauf nicht bloß kosmetischer Natur: Die Dokumentation befindet sich weiterhin unter docs.datadoghq.com/llm_observability/ und der Pricing-Anker lautet nach wie vor ?product=llm-observability. Der alte Name ist also keineswegs verschwunden — er entspricht lediglich nicht mehr der offiziellen Produktbezeichnung.

Die zweite Änderung betrifft das Preismodell selbst, das zwischen Februar und Juli 2026 neu strukturiert wurde. Verifiziert anhand des Internet Archive:

Auf der alten Karte hieß es: „Starting At $8 / Per 10K monitored LLM requests, per month“ mit „Minimum of 100K LLM requests per month.“ Diese 100K waren nie ein enthaltenes Freivolumen — es handelte sich um ein vertragliches Mindestabnahmevolumen. Die Aufpreise für längere Aufbewahrung wurden zwischen Juli und September erneut angepasst. Zwei strukturelle Änderungen innerhalb von sieben Monaten bedeuten: Jede Zahl aus einem Beitrag, der älter als etwa acht Wochen ist, ist wahrscheinlich veraltet.

[SCREENSHOT: Datadog — die Agent Observability-Karte auf datadoghq.com/pricing mit den Tiers Free und Pro sowie dem Kleingedruckten zu den Kosten pro 10K Spans]

Das Preismodell im Detail erklärt

Free — 0 $/Monat, bis zu 40K LLM-Spans pro Monat, 15 Tage Trace-Aufbewahrung, unbegrenzter Kontext und Evaluierungen, voller Funktionsumfang. Pro — 160 $/Monat bei jährlicher Zahlung: „100K LLM spans per month included. Additional spans: $3.5 per 10K LLM spans.“ 15 Tage Aufbewahrung, mit drei Verpflichtungsstufen für die ersten 100K: 240 $ On-Demand, 200 $ monatlich kündbar (M2M), 160 $ bei jährlicher Bindung.

Zwei ungenannte Details in den Hauptangaben. Die Aufbewahrungsstufen sind mehrdeutig — Datadog gibt an keiner Stelle explizit an, ob die Raten für 30/60/90 Tage zusätzlich zur Basis von 3,50 $ anfallen oder diese ersetzen; in Analogie zu APM Indexed Spans auf derselben Seite wirken sie wie ein Ersatz, aber das ist reine Interpretation. Lassen Sie sich das schriftlich [BESTÄTIGEN]. Zudem gibt es einen ungenannten regionalen Aufschlag: Die auf der Seite eingebettete Regionskarte zeigt für us/eu 160 $ + 3,50 $, für ap2/uk1 192 $ + 4,20 $ und für ap1 200 $ + 4,38 $ — 25 % mehr für eine identische SKU.

Was als abrechenbarer Span zählt

In diesem Punkt ist das Modell besser als sein Ruf. Aus den FAQ zum Pricing:

„An LLM span is a single call to an LLM provider such as OpenAI or Anthropic. One agent workflow can generate multiple LLM spans… Datadog bills only on LLM spans, not on tool spans, retrieval spans, or other workflow spans surrounding the model call.“

Es existieren sieben Arten von Spans, und genau eine wird abgerechnet: LLM. Workflow, Agent, Tool, Task, Embedding und Retrieval sind kostenfrei. Die Art entscheidet, nicht die Verschachtelungstiefe — RAG-Embedding-Aufrufe kosten also nichts, obwohl sie ein Modell aufrufen. Wenn die Gesamtzahl der Spans die der LLM-Spans um das Fünffache übersteigt, ist dieser enge Nenner entscheidend. Die meisten Vergleiche pro Span mit Datadog ignorieren diesen Faktor. Eine Unstimmigkeit: Die SDK-Dokumentation besagt, dass die Abrechnung „is based on the volume of spans you send“, was der expliziten Angabe „LLM spans only“ auf der Pricing-Seite widerspricht.

[SCREENSHOT: Datadog — ein Agent-Trace mit Bezeichnungen der Span-Arten (llm, tool, workflow, retrieval) im Flame-Graphen]

Wechselwirkung mit APM- und Log-Abrechnung

Hier erleben Nutzer häufig Überraschungen bei der Abrechnung.

APM ist keine Voraussetzung. Wörtlich: „No. Agent Observability is a standalone product and can be purchased without any other Datadog subscription.“

Es greift nicht auf APM-Freivolumina zurück. Auf der Übersichtsseite für Freivolumina sind Infrastructure, Infra Pro/Enterprise, APM, APM Pro und Serverless aufgeführt — Agent Observability taucht dort nirgends auf. Jeder Span oberhalb des Free- oder Pro-Tiers stellt zusätzliche Ausgaben dar und wird nie durch bestehende Puffer abgedeckt, für die Sie bereits bezahlen.

Werden LLM-Traces zusätzlich als APM-Traces abgerechnet? Wir stellen dies nicht als Tatsache dar, da Datadog es in keiner Richtung dokumentiert. Bitte [BESTÄTIGEN]. Was sich jedoch verifizieren lässt und aufschlussreich ist: Für AI Guard verspricht Datadog eine Ausnahme — „It includes an APM allotment, so customers without APM aren’t billed for the ingestion of traces AI Guard emits.“ Eine vergleichbare Aussage fehlt für Agent Observability, obwohl beide auf derselben ddtrace- / dd-trace-Bibliothek aufbauen. Berücksichtigen Sie diese Wechselwirkung in Ihrem Modell, anstatt von einer Trennung auszugehen.

Das Volumen ist Opt-out, nicht Opt-in. Die Aktivierung des Produkts erfordert ein explizites DD_LLMOBS_ENABLED=1. Nach der Aktivierung gilt jedoch: „All integrations are enabled by default“ — das Hinzufügen von OpenAI, LangChain, Bedrock, CrewAI oder MCP erzeugt also ohne Codeänderung abrechenbare Spans. Die Abmeldung erfolgt pro Integration: integrations_enabled=False (Python), plugins: false (Node) oder DD_PATCH_MODULES.

Der Hebel zur Kostensteuerung: DD_LLMOBS_SAMPLE_RATE (0.0-1.0, Standard 1.0; erfordert Python ddtrace >= 4.12.0, Node dd-trace >= 5.110.0, Java >= 1.66.0). Datadog gibt an: „Sampling does not affect your Agent Observability metrics… these metrics remain based on 100% of your application’s instrumented traffic.“ Sie reduzieren das Span-Volumen, ohne dass Ihre Dashboards an Aussagekraft verlieren — ein durchdachtes Konzept.

Ein durchgerechnetes Beispiel

Wir definieren einen Referenz-Agentenlauf: 1 Request → 1 Trace → 4 LLM-Aufrufe + 3 Tool-Aufrufe + 2 Retrievals. Neun Spans insgesamt, davon vier abrechenbar.

A — 50.000 Läufe/Mo. = 200.000 LLM-Spans (450.000 Spans insgesamt)
  Pro Basis, erste 100.000 Spans           =   160,00 $
  Zusätzliche 100.000 / 10.000 = 10 Einheiten
  10 x 3,50 $                              =    35,00 $
  Gesamtsumme jährlich                      =   195,00 $ / Monat
  On-Demand: 240 $ + (10 x 5,00 $)          =   290,00 $ / Monat

B — 500.000 Läufe/Mo. = 2.000.000 LLM-Spans (4.500.000 insgesamt)
  Pro Basis, erste 100.000 Spans           =   160,00 $
  Zusätzliche 1.900.000 / 10.000 = 190 Einheiten
  190 x 3,50 $                             =   665,00 $
  Gesamtsumme jährlich                      =   825,00 $ / Monat
  On-Demand: 240 $ + (190 x 5,00 $)         = 1.190,00 $ / Monat

Setzen Sie Ihr eigenes Volumen ein: Kosten = 160 + 3,50 x ((LLM-Spans - 100.000) / 10.000), gekappt bei 160 $ zwischen 40K und 100K Spans, 0 $ unterhalb von 40K.

Hat Ihnen die Preisanpassung genützt? Im Vergleich zu den alten 8 $ pro 10K mit einer Untergrenze von 80 $/Monat liegt der Break-even-Punkt bei etwa 278.000 LLM-Spans pro Monat (unsere Berechnung auf Basis der veröffentlichten Raten):

Kleine und schwankende Workloads fielen entweder in den kostenlosen Bereich oder wurden teurer; große, gleichmäßige Workloads wurden spürbar günstiger. Wenn Ihr Budget aus der Zeit vor Juli 2026 stammt und Sie im mittleren Bereich liegen, ist es voraussichtlich fehlerhaft.

Welche Leistungen Sie dafür erhalten

Es handelt sich um ein ausgereiftes Produkt, und die Aussage von Datadog — „Every tier includes the full agent engineering platform from day one“ — wird durch den Funktionsumfang bestätigt.

Pre-Production: Manuelle Überprüfung und Annotation, versionierte Datasets aus Production-Traces, ein Playground, strukturierte Experimente, Offline-Evaluatoren.

Production: Tracing auf Span-Ebene von Inputs, Outputs und Metadaten über Prompts, Retrieval, Tool-Aufrufe und Entscheidungen hinweg; Überwachung von Latenz, Token und Kosten; Evaluatoren einschließlich Halluzinationen und Drift; Sicherheits-Scans auf Prompt Injections, Offenlegung sensibler Daten und unsichere Outputs; Korrelation mit Backend-Services, Infrastruktur und RUM unter einer einzigen Trace-ID. Patterns ergänzt Topic-Clustering, Insights die Erkennung von Ausreißern.

Evaluations: Benutzerdefinierte LLM-as-a-Judge-Evaluierungen auf Span-, Trace- oder Session-Ebene, verwaltete Evaluierungen, Endnutzer-Feedback, externe Evaluierungen über API, eine NeMo-Integration und Annotation Queues. Der Katalog an verwalteten Evaluierungen ist jedoch überschaubar — in der Dokumentation werden lediglich Language Mismatch und Sensitive Data Scanning aufgeführt. Der Sensitive Data Scanner ist ohne Aufpreis enthalten, wird jedoch gemessen: „For every 10K LLM spans, you receive an allotment of 1 GB of SDS processing.“ Wie mit Überschreitungen umgegangen wird, ist nicht dokumentiert. Bitte [BESTÄTIGEN].

Die Korrelation bildet den eigentlichen Kern des Mehrwerts: Wenn Datadog bereits Ihre Infrastruktur-Metriken, APM-Traces, Logs und RUM-Sessions verwaltet, ist die Einbindung von Agent-Traces mit demselben Alerting einen realistischen Gegenwert wert.

Wo Hürden in der Praxis entstehen

Drei dieser Punkte betreffen direkte Produkteigenschaften. Der vierte erfordert eine sorgfältige Zuordnung und erhält diese auch. Vorab sei angemerkt: Jede von uns geprüfte Seite zu „Datadog-Alternativen“ nannte entweder falsche Raten, falsche Einheiten oder Tiers, die gar nicht existieren.

1. Guardrails sind nicht im Preis enthalten. Agent Observability erkennt Prompt Injections im Rahmen einer Evaluierung. Die Echtzeit-Blockierung erfolgt über AI Guard, das auf derselben Pricing-Seite mit „Custom Quote / Contact Us for Pricing“ geführt wird. Datadogs FAQ: „Yes. AI Guard is a standalone product. It is billed separately from LLM Observability.“ Die Messung ist ungewöhnlich — „Billed per 1,000,000 input tokens evaluated, including the full conversation context“ —, Sie zahlen also bei jedem Turn erneut für den gesamten Konversationskontext. Es gibt keine öffentlichen Preise.

[SCREENSHOT: Datadog — die Produktkarte für AI Guard mit der Angabe „Contact Us for Pricing“ und der Fußnote zu Kosten pro Million Input-Tokens]

2. „Unlimited evals“ enthält eine indirekte Abrechnungskomponente. Für Evaluierungen gibt es keine eigene SKU, aber Datadogs eigene Dokumentation zu LLM-as-a-Judge besagt: „Note: Enabling tracing increases the number of billed spans sent to Datadog.“ Über einen Schalter in der Benutzeroberfläche wird das Eval-Volumen in abrechenbare Spans umgewandelt. Die Pricing-Seite erwähnt dies bei der Angabe zu „unlimited context and evals“ nicht.

3. Standardeinstellungen wurden unbemerkt geändert. Die Aufbewahrungsdauer von Experimentergebnissen betrug im Februar 2026 standardmäßig 90 Tage; inzwischen sind es 15 Tage, wobei 3 Monate nur bei entsprechender vertraglicher Bindung gewährt werden. Trace-Daten verbleiben 15 Tage im System, Trace-Metriken 15 Monate und versionierte Datasets 3 Jahre.

4. Unvorhergesehene Kostensteigerungen — was belegt ist. Wir haben keine verlässlichen Erfahrungsberichte über unerwartete Kostensteigerungen gefunden, die sich spezifisch auf Datadog LLM Observability oder Agent Observability beziehen. Was existiert, betrifft die gesamte Plattform, ist älteren Datums und stammt aus benannten Quellen:

• The Pragmatic Engineer (Gergely Orosz, 11. Mai 2023) berichtete, dass Coinbase 2021 insgesamt 65 Mio. $ bei Datadog ausgab, was von aktuellen und ehemaligen Coinbase-Engineers bestätigt wurde. Im Q1-2023-Call von Datadog bezeichnete CFO David Obstler diesen Kunden als „an early optimizer“, und CEO Olivier Pomel erklärte: „we restructure their contract.“
• DHH von 37signals, 26. August 2024: „Our renewal bill for Datadog came to ~$83,000/year before we canceled.“ Eine Angabe des Unternehmens, nicht unabhängig geprüft.
• Ein Hacker-News-Kommentar (monero-xmr, 6. Mai 2023): „I also feel like they are robbing me blind. Great product though.“ Eine Einzelmeinung — beachten Sie den zweiten Satzteil.
• OneUptime, 12. Februar 2026, modellierte die Kosten eines 40-köpfigen Teams, die unter der Last von AI-Coding-Agenten von 13.525 $ auf 26.460 $/Monat (+96 %) stiegen. Ein vom Mitbewerber erstelltes Rechenbeispiel, keine gemessenen Realdaten.

Ebenso konnten wir die weitverbreitete Behauptung nicht bestätigen, Datadog aktiviere LLM Observability automatisch und stelle dies in Rechnung. Die Aktivierung erfolgt explizit. Die sachlich korrekte Formulierung lautet: Das Produkt erfordert ein Opt-in, die Volumenerfassung erfolgt per Opt-out.

Möchten Sie lieber auf die Abrechnung pro Span verzichten?

Leiten Sie Ihren Traffic über ein Gateway, das Kosten, Tokens und Traces automatisch als Nebenprodukt der Anfrageverarbeitung erfasst.

Kostenlos starten

Gleiche Anforderung, unterschiedliche Anbieterpreise

Da die Abrechnungseinheiten abweichen, sind direkte Vergleiche der Hauptpreise nicht aussagekräftig. Nachfolgend finden Sie denselben Referenz-Workload — 50.000 Läufe/Monat = 200.000 LLM-Spans, 450.000 Spans insgesamt — berechnet nach dem jeweiligen Modell der Anbieter, auf Basis der Listenpreise und bei jährlicher Zahlung, sofern angeboten.

Zwei Klarstellungen. Der Nenner bei Datadog ist etwa fünfmal kleiner als der von Opik oder Arize in diesem Beispiel, da Tool-, Retrieval- und Workflow-Spans unberücksichtigt bleiben — die nominellen 350 $ pro Million LLM-Spans lassen sich daher nicht direkt mit den 50 $ pro Million aller Spans bei Opik vergleichen. Und die Kennzeichnung „nicht veröffentlicht“ stellt kein Recherchedefizit dar: LangSmith, Arize AX und Datadogs eigenes AI Guard veröffentlichen diese Raten tatsächlich nicht. Aus der Liste bieten lediglich Phoenix, Opik, Langfuse und Helicone eine kostenfreie Self-Hosting-Option; Datadog verfügt weder über eine Open-Source-Variante noch über eine Option zur eigenen Bereitstellung.

Wo TrueFoundry ansetzt — und wo nicht

Zunächst die sachliche Einordnung. Datadog ist ein wesentlich umfassenderes Produkt als TrueFoundry; es handelt sich nicht um einen 1:1-Ersatz. Datadog deckt Infrastruktur, APM, Logs, RUM, Synthetics, Security und Datenbank-Monitoring ab. Wenn Sie eine zentrale Übersicht über die gesamte Systemlandschaft benötigen, ist Datadog dafür ausgelegt — TrueFoundry übernimmt diese Aufgabe nicht. Der parallele Einsatz beider Systeme ist üblich.

Was TrueFoundry verändert, ist der Ursprung der Telemetriedaten und damit die entstehenden Kosten. Das AI Gateway ist direkt im Anfragenpfad zwischen Ihren Anwendungen und über 1.000 LLMs hinter einer einzigen OpenAI-kompatiblen API platziert. Es ergänzt eine Latenz von etwa 3-4 ms und verarbeitet über 350 RPS auf 1 vCPU. Da jeder Modell- und MCP-Tool-Aufruf das Gateway passiert, entstehen Metriken und Traces automatisch als Nebenprodukt der Anfragenverarbeitung. Es fallen keine Gebühren pro Span an, da Spans nicht die Abrechnungseinheit bilden. Die Preisgestaltung basiert auf Nutzern und Gateway-Requests: Developer 0 $ für 3 Nutzer und 10K Requests pro Nutzer/Monat; Pro 25 $/Nutzer/Monat mit 20K gebündelten Requests pro Nutzer und 20 $ für jede weiteren 100K.

Die Traces entsprechen echten Span-Hierarchien und sind keine flachen Log-Einträge. Eine abgesicherte Chat-Completion erzeugt einen Root-ChatCompletion-Span, einen Guardrail-Span, den ausgehenden Aufruf der Guardrail, einen Model-Span und den ausgehenden Aufruf des Modells. Jeder dieser Spans enthält Attribute für Kosten, Tokens und Latenz und ist dem verursachenden Subjekt zugeordnet. Dies entspricht der Hierarchie, die AI Agent Observability benötigt, ohne dass der Agent manuell instrumentiert werden muss.

Da sich das Gateway direkt im Anfragenpfad befindet und nicht daneben geschaltet ist, ergeben sich zwei Möglichkeiten, die reine Observability-Tools nicht bieten. Guardrails werden inline ausgeführt — PII-Reduktion, Prompt-Injection-Erkennung, Moderation und Blockierung statt reiner Bewertung — ohne separate Token-SKU. Und Budgets werden durchgesetzt, nicht nur protokolliert: Ausgabenlimits stoppen Anfragen gezielt nach Nutzer, Team, Modell oder Metadaten-Schlüssel.

Sie möchten die Daten dennoch in Datadog nutzen? TrueFoundry stellt OpenTelemetry-konforme Traces bereit. Der OTEL-Export aus dem Gateway funktioniert mit jedem OTLP-kompatiblen Backend — das Gateway dient dann als Erfassungspunkt, Datadog als Korrelationsebene.

Die Einschränkung: Wenn Sie keinen Proxy im Anfragenpfad einsetzen möchten, bleibt ein Großteil dieser Funktionen ungenutzt. Zudem sind unsere Eval-Tools weniger speziell ausgelegt als bei reinen Evaluierungsplattformen wie Braintrust oder DeepEval. Kosten-Observability und die Durchsetzung von Limits bilden den Schwerpunkt des Gateways.

Möchten Sie die Kosten Ihrer Agenten ohne Span-basierte Abrechnung einsehen?

Leiten Sie eine Anwendung über das Gateway und öffnen Sie das Metrik-Dashboard.

Kostenlos starten

Verwandte Artikel

• AI agent observability tools
• Best AI observability platforms for LLMs in 2026
• What is LLM observability?
• LLM cost tracking solutions
• Observability in an AI gateway

Fazit

Die Neugestaltung der Preise von Datadog im Jahr 2026 fällt nachvollziehbarer aus, als manche Berichte vermuten lassen: Die abrechenbare Einheit ist die engste am Markt, Sampling schränkt die Aussagekraft der Dashboards nicht ein, und bei hohem Volumen liegt der Grenzsatz 56 % unter dem Wert vom Februar. Dem gegenüber stehen Aspekte außerhalb des Grundtarifs — Guardrails als separate SKU auf Anfrage, Aufbewahrung über 15 Tage hinaus mit unklarer Verrechnung zur Basis, kein Freivolumen über den Host und zwei strukturelle Anpassungen innerhalb von sieben Monaten.

Entscheidend ist, welchen Ansatz Sie bevorzugen. Wenn Sie eine zentrale Plattform für die Korrelation aller Daten suchen und eine mengengebundene Abrechnung pro Span akzeptieren, bietet Datadog eine funktionale, breite Lösung. Wenn die Telemetrie stattdessen als automatisches Ergebnis eines ohnehin erforderlichen Kontrollpunkts entstehen soll — der Budgets durchsetzt, Guardrails inline ausführt und Daten bei Bedarf über OTEL an Datadog übergibt —, spricht dies für den Einsatz eines nativen Gateways.

Alle genannten Preise entsprechen den veröffentlichten Listenpreisen von Datadog mit Stand vom 25. September 2026 und können sich ändern. Überprüfen Sie die aktuellen Angaben vor einer Entscheidung unter datadoghq.com/pricing.

Testen Sie das TrueFoundry AI Gateway kostenlos →