Langfuse vs. LangSmith: Welche LLM Observability-Plattform passt?

Wer Langfuse vs. LangSmith im Jahr 2026 vergleicht, muss mit einer Tatsache beginnen, die erst neun Monate alt ist: ClickHouse hat Langfuse übernommen, wie am 16. Januar 2026 bekannt gegeben wurde, zusammen mit ClickHouses 400-Mio.-$-Series-D unter der Führung von Dragoneer. Der Übernahmepreis wurde nicht offengelegt (ClickHouse-Ankündigung, 16. Januar 2026). Der eigene Blogbeitrag von Langfuse fasst die Umstände gewohnt direkt zusammen: „Wir hatten nicht geplant, das Unternehmen zu verkaufen. Eigentlich hatten wir bereits Term Sheets für eine hervorragende Series A vorliegen“ (Langfuse, joining ClickHouse).

Die Zusagen sind ebenso eindeutig — „Langfuse bleibt Open Source und selbst hostbar. Es sind keine Änderungen an der Lizenzierung geplant.“ Bis September 2026 hat dies Bestand: Die LICENSE-Datei des Repositories lautet nun „Copyright (c) 2023-2026 ClickHouse, Inc.“, Sicherheitskontakte wurden auf security@clickhouse.com umgestellt und Compliance-Richtlinien befinden sich im ClickHouse Trust Center. Eine wesentliche kommerzielle Änderung gab es jedoch, auf die weiter unten eingegangen wird.

LangSmith ist unabhängig und wurde von LangChain entwickelt — dem Unternehmen hinter LangChain und LangGraph. Diese eine Tatsache erklärt den Großteil der folgenden Unterschiede.

Langfuse: Überblick

Langfuse beschreibt sich selbst als „Open-Source-AI-Engineering-Plattform… Tracing, Prompt-Management, Evaluierung und Metriken.“ Das Repository unter github.com/langfuse/langfuse zählt mit Stand vom 25. September 2026 rund 35.000 Stars.

Es handelt sich um ein echtes Open-Core-Modell, dessen Grenzen präzise dokumentiert sind. Alles außerhalb von ee/, web/src/ee/ und worker/src/ee/ steht unter der MIT Expat-Lizenz; diese spezifischen Verzeichnisse unterliegen einer separaten Enterprise-Lizenz. Langfuse stellt klar, dass „alle Kernfunktionen und APIs von Langfuse in Langfuse OSS (MIT-lizenziert) ohne Einschränkungen verfügbar sind“ und dass „keine Skalierbarkeitsbeschränkungen zwischen den verschiedenen Versionen bestehen.“

Die Liste der Funktionen, die hinter LANGFUSE_EE_LICENSE_KEY geschützt sind, ist öffentlich: RBAC-Rollen auf Projektebene, geschützte Prompt-Labels, Datenaufbewahrungsrichtlinien, Audit-Logs, serverseitige Datenmaskierung, UI-Anpassungen, Ersteller von Organisationen, die Org Management API und SCIM sowie die Instance Management API. Bemerkenswert: Enterprise SSO und RBAC auf Organisationsebene sind in der selbst gehosteten OSS-Version kostenlos enthalten — deutlich großzügiger als bei Langfuse Cloud, wo SSO 300 $/Monat kostet.

[SCREENSHOT: Langfuse — Die Detailansicht eines Traces mit geschachtelten Beobachtungen, Token-Anzahlen und Kosten pro Span]

Self-Hosting ist vollumfänglich möglich, jedoch nicht trivial. Der Stack besteht aus einem Web-Container und einem Worker-Container sowie vier Datenspeichern: Postgres, ClickHouse, Redis/Valkey und S3-kompatiblem Blob-Speicher. Docker Compose wird in der Dokumentation offen als „einzelne VM ohne Hochverfügbarkeit, Skalierung oder Backups“ beschrieben. Es kann vollständig offline und air-gapped betrieben werden, was in regulierten Umgebungen entscheidend ist. Selbst angegebene Skalierung: „Über 90 Mrd. Beobachtungen pro Monat… im Einsatz bei 21 der Fortune 50.“

Worin Langfuse wirklich besser ist. Lizenzfreiheit — MIT-Kern, keine Skalierungsbarrieren zwischen OSS und Cloud. Neutralität gegenüber Frameworks — über 100 Integrationen für etwa 40 Frameworks und 31 Modellanbieter, darunter neun konkurrierende Gateways (LiteLLM, Portkey, OpenRouter, Kong, TrueFoundry). Breite Datenresidenz — Regionen in den USA (us-west-2), der EU (eu-west-1) und Japan (ap-northeast-1) sowie eine HIPAA-konforme Region, SOC 2 Type II, ISO 27001 und DSGVO, ergänzt durch Air-Gapped Self-Hosting. Tiefe des Prompt-Managements — Versionierung, Release-Labels, Komponierbarkeit, server- und clientseitiges Caching. Sowie der Einstiegspreis im unteren Segment.

LangSmith: Überblick

LangSmith ist die Observability-, Evaluierungs- und Agent-Deployment-Plattform von LangChain. Die Plattform selbst ist nicht Open Source — lediglich das SDK ist unter github.com/langchain-ai/langsmith-sdk mit MIT-Lizenz verfügbar und verzeichnete am 25. September 2026 1.062 Stars. Self-Hosted- und Hybrid-Deployments sind ausschließlich dem Enterprise-Tarif vorbehalten.

Das ist eine reale Einschränkung — und gleichzeitig der Kompromiss, den LangSmith eingeht: Weil das Unternehmen keine frei selbst hostbare Distribution für alle anbietet, liefert es mehr Produktfunktionen im Standard.

[SCREENSHOT: LangSmith — Ein LangGraph-Ausführungslauf in der Trace-Ansicht mit dem Agentengraphen neben der Schritt-Timeline]

Funktionen, die Langfuse nicht bietet:

• Agent-Deployment. Serverless- und dedizierte Deployments, Studio, eine Assistants API, Cron-Scheduling und die Bereitstellung eines eingesetzten Agenten als MCP-Server.
• Sandboxes zur sicheren Ausführung von durch Agenten generiertem Code.
• Ein vollständiges LLM-Gateway mit Kostenkontrolle, Rate Limiting, Modell-Fallbacks, PII- und Secret-Redaktion sowie Bring-Your-Own-Key.
• Engine, eine Komponente, die das Agentenverhalten in Issues gruppiert, Codefehler diagnostiziert und Korrekturen vorschlägt. Sie läuft standardmäßig alle 6 Stunden, sofern sie nicht deaktiviert wird — behalten Sie das für den Preisabschnitt im Hinterkopf.
• Tuned Evaluators (öffentliche Beta-Version seit September 2026), die einen Evaluator an Ihre gelabelten Daten anpassen. Nur im Plus- und Cloud-Enterprise-Tarif, nur in den USA.

Beim Tracing selbst liegen beide eng beieinander. LangSmith unterstützt OpenTelemetry nativ und bildet GenAI-Semantic-Conventions sowie Attribute von TraceLoop, OpenInference und Logfire ab, inklusive Collector-Fan-Out. Die Liste der unterstützten Frameworks umfasst AutoGen, Claude Agent SDK, CrewAI, Google ADK, Mastra, Microsoft Agent Framework, OpenAI Agents SDK, PydanticAI, Semantic Kernel, Strands und das Vercel AI SDK. Es ist keineswegs auf LangChain beschränkt, ungeachtet des Brandings.

Worin LangSmith wirklich besser ist. Tiefe Integration in LangChain und LangGraph, da aus derselben Hand stammend. Mehr als reine Observability — Deployment, Sandboxes und ein Gateway sind drei Kategorien, die Langfuse nicht abdeckt. Autonome Fehlertriage über Engine. Ein maximales Datenaufbewahrungs-Limit für erweiterte Traces von 400 Tagen. Und operative Einfachheit: Kein eigener Wartungsaufwand, kein ClickHouse-Cluster zu verwalten.

Preise: Die Hauptkennzahlen sind nicht direkt vergleichbar

Beide Anbieter veröffentlichen Listenpreise. Ein direkter Vergleich ist jedoch irreführend, da sich die abrechenbaren Einheiten etwa um eine Größenordnung unterscheiden.

Langfuse Cloud (Stand 25. September 2026):

Mengenrabatte reichen bis zu 7 $/100k (1–10M Einheiten), 6,50 $ (10–50M) und 6 $ (50M+).

Die Definition der Einheit bestimmt Ihre Rechnung: „Einheiten = Anzahl der Traces + Anzahl der Beobachtungen + Anzahl der Scores.“ Langfuses eigenes Rechenbeispiel lautet: 20.070 Traces + 119.500 Beobachtungen + 561 Scores = 140.131 Einheiten pro Monat — was etwa sieben abrechenbaren Einheiten pro Trace entspricht. Die Dokumentation beantwortet auch die nahelegende Folgefrage: „Zählen Einheiten, die durch Langfuse-Funktionen erzeugt werden, als abrechenbare Einheiten? Ja.“ Das betrifft auch LLM-as-a-Judge, Annotations-Queues und Experimente. Mehr Evaluierungen bedeuten direkt höhere Kosten.

LangSmith (Stand 25. September 2026):

Ein LangSmith-Trace ist „eine einzelne Ausführung Ihrer Anwendung… Sie kann viele einzelne Schritte enthalten.“ Ein Basis-Trace beinhaltet eine Datenaufbewahrung von 14 Tagen; ein erweiterter Trace bietet 400 Tage „gegen eine zusätzliche Gebühr.“

Zwei Punkte sind zu beachten. Erstens: LangSmith veröffentlicht keine Overage-Rate pro Trace — auf der Seite steht lediglich „pay as you go thereafter“. Zweitens wird der Rest der Plattform in abstrakten Einheiten abgerechnet: 1 LCU (LangChain Compute Unit) = 1,50 $ und 1 LSU (LangChain Storage Unit) = 1,00 $. Engine verbraucht ca. 5–30 LCUs pro Lauf — also 7,50–45 $ pro Lauf bei einem Standardintervall von 6 Stunden. Tuned Evaluators schlagen mit 0,01 LCU pro Lauf (0,015 $) zu Buche. Deployment wird wiederum separat gemessen: Runtime-Compute 0,045 LCU/vCPU-Std., Runtime-Speicher 0,006 LCU/GiB-Std., Datenbank-Compute 0,177 LSU/vCPU-Std., Datenbank-Speicher 0,025 LSU/GiB-Std. Startups können sich für Guthaben von bis zu 10.000 $ bewerben.

Der entscheidende Vergleich. Ein einzelner Agenten-Durchlauf mit 20 LLM-Aufrufen entspricht 1 LangSmith-Basis-Trace und etwa 21+ Langfuse-Einheiten. Bei den 8 $/100k von Langfuse entspricht das etwa 0,0017 $ pro Durchlauf; die vergleichbare Rate von LangSmith ist nicht öffentlich einsehbar. Vergleichen Sie daher nicht einfach 29 $ mit 39 $ — modellieren Sie zuerst die genaue Struktur Ihrer Traces.

Bereitstellung und Architektur im Vergleich

Eine wichtige Korrektur, da das Gegenteil oft behauptet wird und veraltet ist: Langfuse bietet sehr wohl ein LLM-Gateway. Es handelt sich um einen eigenständigen Rust-Dienst unter ai-gateway/, der „naktive Anbieter-APIs unter zwei Namespaces bereitstellt: /openai/v1 … /anthropic/v1.“ Lesen Sie die Architektur-Hinweise, bevor Sie darauf aufbauen — „das Gateway leitet Inference-Anfragen ausschließlich an offizielle Pfade der Anbieter weiter. Es führt keine Retries durch, folgt keinen Weiterleitungen und akzeptiert keine clientseitigen Routing-Overrides.“ Kein Load Balancing, kein Failover, kein semantisches Caching, keine Budgetdurchsetzung. Es ist ein Capture-Relay für zwei Anbieter, damit Traces ohne SDK-Instrumentierung ankommen — kein vollständiger Router, und Langfuse behauptet das auch nicht.

Wo Teams in der Praxis an Grenzen stoßen

1. Unvorhergesehene Einheiten-Inflation. Das Verhältnis von ~7 Einheiten pro Trace bei Langfuse ist unproblematisch, bis ein Agent-Framework 40 Beobachtungen pro Durchlauf generiert. Dann deckt ein 29-$-Tarif mit 100k Einheiten nur noch etwa 2.500 Durchläufe im Monat ab. Teams bemerken dies meist erst nach der ersten Abrechnung mit Overage-Gebühren.

2. Evaluierungen werden doppelt abgerechnet. Bei Langfuse sind LLM-as-a-Judge-Scores abrechenbare Einheiten und verbrauchen zusätzlich Tokens beim Judge-Modell. Bei LangSmith läuft Engine standardmäßig alle 6 Stunden zu 7,50–45 $ pro Lauf — was ohne Anpassung der Einstellungen etwa 900–5.400 $ pro Monat entspricht. Beide Aspekte sind dokumentiert, überraschen in der Praxis jedoch regelmäßig.

3. Der Weg zum unterstützten Enterprise-Self-Hosting hat sich verändert. Die Preisseite von Langfuse zum Thema Self-Hosting gibt nun an, dass unterstütztes Enterprise Self-Hosting „mit ClickHouse Cloud, ClickHouse BYOC oder ClickHouse Private gebündelt ist“ und dass „die Preise für Langfuse additiv zu Ihrem kommerziellen ClickHouse-Tarif hinzukommen.“ Die MIT-Version bleibt davon unberührt. Das vom Hersteller unterstützte Self-Hosting ist jedoch nun an einen Vertrag mit ClickHouse gebunden — die spürbarste kommerzielle Änderung seit der Übernahme bis September 2026.

4. Observability ist keine Steuerung. Ein Trace zeigt Ihnen im Nachhinein, dass eine Anfrage 0,42 $ gekostet und 9 Sekunden gedauert hat. Es verhindert weder die Anfrage, noch deckelt es das Budget des Teams, blockiert Prompt Injections oder leitet Anfragen bei einem 503-Fehler des Anbieters um. Tracing ist die falsche Ebene für Durchsetzung und Kontrolle — darin stimmen beide Anbieter überein.

Möchten Sie Kosten und Richtlinien vor dem Aufruf durchsetzen, statt sie danach nur zu beobachten?

Leiten Sie Ihren Datenverkehr über einen einzigen, gesteuerten Endpunkt und nutzen Sie Ihr bestehendes Tracing-Backend nahtlos weiter.

Kostenlos starten

Wo TrueFoundry einordnet — und wo nicht

Um es direkt zu sagen: TrueFoundry ersetzt weder Langfuse noch LangSmith. Diese bilden die Observability- und Evaluierungsebene. Das AI Gateway von TrueFoundry fungiert als vorgeschalteter Steuerungs- und Kontrollpunkt vor den Modellen und exportiert Traces über OpenTelemetry an beide Systeme. Langfuse führt TrueFoundry bereits unter den neun unterstützten Gateways auf — das deutlichste Zeichen dafür, dass es sich um komplementäre und nicht um konkurrierende Schichten handelt.

Das Gateway schaltet sich vor über 1.000 LLMs über eine einzige OpenAI-kompatible API, verursacht dabei lediglich 3–4 ms zusätzliche Latenz und bewältigt über 350 RPS auf 1 vCPU. Diese Leistungswerte machen es praktikabel, es vor jeden Aufruf zu schalten, statt nur vor ausgewählte. Budgets, Rate Limits, Guardrails, Kostenzuordnung und Failover lassen sich so an einem zentralen Punkt durchsetzen.

Die typische Architektur in vielen Teams: Richtlinien erzwingen und Kosten am Gateway zuordnen, danach Traces an die Plattform senden, die Ihre Entwickler für Debugging und Evaluierung bevorzugen. Falls das LangSmith ist, steht eine dokumentierte Integration bereit. Falls es Langfuse ist, funktioniert der OTLP-Endpunkt genauso. Sie müssen sich nicht zwischen Governance und Observability entscheiden.

Die Routing-Konfiguration bildet einen weiteren Hebel, der der Observability-Abrechnung vorgelagert ist: Wenn Sie jede Anfrage gezielt an die passende Modellklasse leiten, anstatt standardmäßig das teuerste Frontier-Modell zu nutzen, senken Sie sowohl die Inference-Kosten als auch das Volumen teurer Traces, deren Speicherung Sie bezahlen.

Nutzen Sie bereits Langfuse oder LangSmith?

Behalten Sie es bei. Schalten Sie das Gateway davor und behalten Sie Kosten pro Team, Modell und Agent an einem Ort im Blick.

Kostenlos starten

Direkter Vergleich

Weiterführende Artikel

• Was ist LLM Observability? — die Kategorie beider Produkte
• LLM Observability Tools
• Langfuse vs. Portkey — der Vergleich auf Gateway-Ebene
• TrueFoundry AI Gateway Integration mit LangSmith
• Was ist eine AI Control Plane?

Fazit

Beide Plattformen sind hervorragend, adressieren jedoch unterschiedliche Schwerpunkte. Langfuse setzt auf Offenheit: ein MIT-Kern, universelles Self-Hosting inklusive Air-Gapped-Umgebungen, drei Cloud-Regionen und die gezielte Unabhängigkeit von einzelnen Agent-Frameworks. Diese Ausrichtung blieb auch nach der ClickHouse-Übernahme bestehen, abgesehen von einer kommerziellen Anpassung beim unterstützten Enterprise-Self-Hosting. LangSmith setzt auf funktionale Tiefe innerhalb des eigenen Ökosystems und bietet drei eigenständige Produktkategorien — Deployment, Sandboxes und ein vollwertiges Gateway —, die Langfuse nicht abdeckt.

Die Entscheidung hängt davon ab, worauf Sie den Fokus legen: Legen Sie Wert auf Quellcode-Kontrolle und flexible Bereitstellung? Dann ist Langfuse die passende Wahl. Suchen Sie den größten Funktionsumfang bei minimalem Betriebsaufwand innerhalb eines LangChain-Stacks? Dann passt LangSmith. Modellieren Sie in jedem Fall Ihr tatsächliches Trace-Volumen im Voraus; reine Listenpreise führen sonst schnell zu falschen Annahmen.

Keines der beiden Systeme ist darauf ausgelegt, Richtlinien aktiv durchzusetzen — beide analysieren Ereignisse im Nachhinein. Wenn Sie zusätzlich einen zentralen, steuerbaren Zugangspunkt vor jedem Modellaufruf benötigen — für Budgets, Rate Limits, Guardrails, Kostenzuordnung und Failover —, gehört diese Schicht gelagert davor und sendet ihre Daten an die Observability-Plattform Ihrer Wahl.

Starten Sie kostenlos mit TrueFoundry