Was sind LangGraph Deep Agents? Das Framework erklärt

Eine einfache Tool-Calling-Schleife reicht für Aufgaben aus, die in vier Schritten erledigt sind. Bei stundenlangen Prozessen scheitert sie jedoch. Das Modell verliert den Faden, der Gesprächsverlauf sprengt das Kontextfenster und ein einzelnes, umfangreiches Tool-Ergebnis verfälscht alle nachfolgenden Schritte.

Was eine Demo von einem produktiven Agenten unterscheidet, ist das Harness: eine Planung, damit der Agent seine Arbeit selbst zerlegen und nachverfolgen kann; ein Speicherort für Zwischenzustände, der nicht der Nachrichtenverlauf ist; Delegation, damit Teilaufgaben einen sauberen Kontext erhalten; und Komprimierung, damit lange Abläufe nicht ins Leere laufen. LangGraph Deep Agents ist die Komplettlösung von LangChain für all diese vier Punkte.

Was sind Deep Agents?

Deep Agents ist ein Open-Source-Agent-Harness unter MIT-Lizenz vom LangChain-Team, das als deepagents Paket für Python und deepagents auf npm für JavaScript und TypeScript vertrieben wird. Seit der Veröffentlichung hat es rund 15.000 GitHub-Sterne erhalten.

Der Einstieg erfolgt über eine einzige Funktion:‍


Dieser Aufruf gibt einen kompilierten LangGraph-Graphen zurück, der sofort aufgerufen oder bereitgestellt werden kann. Im Hintergrund hat das Harness bereits ein Planungstool, Dateisystemzugriff, Subagenten-Funktionalität, Zusammenfassungsfunktionen sowie einen integrierten System-Prompt hinzugefügt, der dem Modell erklärt, wie all diese Komponenten zu nutzen sind. Sie stellen das Modell und Ihre domänenspezifischen Tools bereit; das Harness liefert das Grundgerüst.

Das JavaScript-Paket stellt umgebungsspezifische Einstiegspunkte bereit (deepagents für Node, deepagents/browser für die browser-sichere Verwendung) und deklariert die LangChain-Laufzeitpakete als Peer-Dependencies. So behält Ihre Anwendung die Kontrolle über die Versionen und alles wird in einer gemeinsamen Kopie aufgelöst.

Was fügt das Harness tatsächlich hinzu?

Deep Agents setzt sich aus Middleware zusammen. Jedes Element fügt dem Agenten Tools und Prompt-Anweisungen hinzu, wobei Sie jedes davon überschreiben oder entfernen können. Die Standardkonfiguration zu verstehen, ist der schnellste Weg, um zu begreifen, was Sie erhalten.

Todo-Listen-Middleware

Fügt ein write_todos Planungstool hinzu. Der Agent unterteilt ein Ziel in Aufgaben, protokolliert diese und aktualisiert den Fortschritt laufend. Das klingt trivial, ist es aber nicht: Ein expliziter, beschreibbarer Plan ermöglicht es einem Modell, nach zwanzig Tool-Aufrufen den Faden nicht zu verlieren, anstatt vom Kurs abzukommen.

Dateisystem-Middleware

Fügt ls, read_file, write_file, edit_file, glob, grep sowie deletehinzu, plus ein optionales execute Tool, sofern das Backend dies unterstützt. Das Dateisystem dient als Arbeitsspeicher des Agenten. Anstatt einen 40.000-Token-Scrape im Nachrichtenverlauf mitzuführen, schreibt der Agent diesen in eine Datei und grept später nur den benötigten Teil heraus.

SubAgent-Middleware

Fügt ein task Tool hinzu, um Aufgaben an Subagenten zu delegieren, die jeweils in einem isolierten Kontextfenster laufen. Der übergeordnete Agent erhält lediglich das Ergebnis zurück und nicht den gesamten Suchprozess, der dazu geführt hat – die effektivste Methode zur Kontextsteuerung, die es gibt.

Es gibt zudem eine asynchrone Subagenten-Unterstützung über das Agent Protocol, bei der Subagenten sofort mit einer Task-ID antworten, während der Hauptagent während der Ausführung weiterarbeitet. Diese Task-IDs werden im Agenten-Status unter async_tasksgespeichert, sodass sie Kontextkomprimierung und Offloading überdauern. Dies funktioniert mit der LangGraph Platform oder jedem selbst gehosteten Server, der die Agent Protocol-Spezifikation implementiert.

Zusammenfassungs-Middleware

Verdichtet den Nachrichtenverlauf, wenn eine Konversation das Kontextlimit überschreitet. Dies ist der Teil, den die meisten Teams manuell nur unzureichend umsetzen, meist durch einfaches Abschneiden am Anfang, wodurch die ursprünglichen Anweisungen unbemerkt verloren gehen.

Anthropic Prompt Caching-Middleware

Reduziert automatisch redundante Token-Verarbeitung bei Anthropic-Modellen. Bei langen Agenten-Läufen, bei denen System-Prompts und Tool-Definitionen bei jedem Schritt erneut gesendet werden, wirkt sich dies direkt auf die Kosten aus.

Middleware zur Korrektur von Tool-Aufrufen

Repariert den Nachrichtenverlauf, wenn Tool-Aufrufe unterbrochen oder abgebrochen werden, bevor Ergebnisse zurückgegeben werden. Eine unscheinbare Lösung für einen Fehler, der sonst mitten im Prozess zu Validierungsfehlern seitens des Anbieters führen würde.

Zwei weitere werden bei Nutzung der entsprechenden Funktionen hinzugefügt: MemoryMiddleware speichert den Kontext sitzungsübergreifend und lädt den Agenten-Speicher aus AGENTS.md Dateien, und SkillsMiddleware ermöglicht benutzerdefinierte Skills.

Das virtuelle Dateisystem und seine Backends

Das Dateisystem verdient einen eigenen Abschnitt, da so vieles andere davon abhängt. Skills, Speicher, Codeausführung und Kontextverwaltung lesen und schreiben alle über dasselbe virtuelle Dateisystem – und das können auch Ihre eigenen benutzerdefinierten Tools und Middleware.

Es ist modular aufgebaut. Zu den Backends gehören In-Memory-Status, lokaler Datenträger, der LangGraph-Speicher, zusammengesetztes Routing über mehrere Backends hinweg sowie Sandbox-Backends für eine isolierte Ausführung. Durch den Austausch der Backends ändert sich der physische Speicherort der Dateien, ohne dass der Agent-Code angepasst werden muss. Genau das macht denselben Agenten in einem Notebook, in CI-Umgebungen und in der Produktion ausführbar.

Das Framework unterstützt zudem deklarative Berechtigungsregeln, die steuern, welche Dateien und Verzeichnisse der Agent lesen oder schreiben darf. Die Regeln werden bei der Erstellung des Agenten als Liste übergeben, in der Reihenfolge ihrer Deklaration ausgewertet (nach dem Prinzip „First Match Wins“) und auf die integrierten Dateisystem-Tools angewendet. Wichtig für alle, die Agenten mit minimalen Privilegien entwerfen: Deklarative Subagenten erben die Dateisystembeschränkungen des übergeordneten Agenten nicht. Sie müssen einem Subagenten eine eigene FilesystemMiddleware -Instanz zuweisen, um ihn unabhängig einzuschränken.

Deep Agents basiert auf LangGraph, es ist keine Alternative dazu

Hier liegt das meiste Verständnis des Themas falsch, daher sollte man es klar aussprechen. Die Suche nach „Deep Agents vs. LangGraph“ impliziert eine Wahl zwischen zwei Optionen. Diese gibt es nicht. create_deep_agent() gibt einen LangGraph-Graphen zurück. Deep Agents ist LangGraph mit einem vorinstallierten Framework.

LangChain beschreibt drei Ebenen desselben Stacks:

• Deep Agents wenn Sie das vollständige Framework mit bereits integrierter Planung, Kontextverwaltung und Delegation benötigen
• create_agent wenn Sie ein schlankeres Framework ohne die gebündelte Middleware wünschen
• LangGraph wenn die Agenten-Schleife selbst nicht die richtige Struktur hat und Sie einen benutzerdefinierten Graphen benötigen

Die Ebenen ergänzen sich, anstatt miteinander zu konkurrieren. Jeder LangGraph- CompiledStateGraph kann als Subagent an einen Deep Agent übergeben werden, sodass sich benutzerdefinierte Orchestrierung nahtlos in die Standardeinstellungen des Frameworks einfügt. Sie können mit create_deep_agent() beginnen, bei einem Workflow, den die Standardschleife nicht optimal bewältigt, diesen Teil als LangGraph-Graphen erstellen und ihn dem Framework als Subagent übergeben. Nichts geht dabei verloren.

Falls Sie noch nicht genau wissen, wo LangGraph im Vergleich zum breiteren LangChain-Ökosystem einzuordnen ist, hilft Ihnen unser Vergleich zwischen LangChain und LangGraph bei der Einordnung.

Deep Agents vs. create_agent vs. LangGraph

Die Entscheidung ist weniger eine Frage der Leistungsfähigkeit als vielmehr eine Frage, wie viel Kontrolle Sie über das Framework behalten möchten. Jede Standardeinstellung, die Sie übernehmen, ist etwas, das Sie nicht selbst entwickeln müssen – aber auch etwas, das Sie nicht ändern können, ohne eine Ebene tiefer zu gehen.

Wann Sie welche Ebene nutzen sollten

Nutzen Sie Deep Agents, wenn es um langfristige und ergebnisoffene Aufgaben geht: Recherchen, die Dutzende von Quellen umfassen, Code-Änderungen über mehrere Dateien hinweg oder die Dokumentenerstellung, bei der der Agent einen Ort für Entwürfe benötigt. Nutzen Sie sie auch, wenn Sie einen zuverlässigen Agenten bereits diese Woche und nicht erst nächsten Monat einsatzbereit haben möchten.

Nutzen Sie create_agent, wenn Sie genau wissen, welche Tools Sie benötigen und die Aufgabe in wenigen Schritten erledigt ist. Das Laden eines Planungstools und eines virtuellen Dateisystems für einen einfachen Klassifizierungs-Agenten sorgt nur für unnötigen Prompt-Overhead und Latenz.

Nutzen Sie LangGraph direkt, wenn der Kontrollfluss das eigentliche Problem darstellt: explizite Verzweigungen, deterministisches Routing, menschliche Freigabeschritte an bestimmten Knoten oder Zyklen, die keine reine Tool-Aufruf-Schleife sind. Wenn Sie merken, dass Sie gegen das Framework ankämpfen müssen, um Ihren Ablauf abzubilden, sind Sie darüber hinausgewachsen. Für Multi-Agenten-Muster, die über einen einzelnen Agenten hinausgehen, deckt unser Leitfaden zur Multi-Agenten-Orchestrierung das Thema ab.

Eine bessere Alternative für die Produktion: TrueForge Agent Harness

LangChain Deep Agents nimmt Ihnen bei einem einzelnen Agenten viel Arbeit ab, einschließlich Planung, Sub-Agenten, Dateisystem-Tools, Fähigkeiten, Speicher und Langzeit-Ausführung. Sobald Sie jedoch Agenten in mehreren Teams einsetzen, verlagert sich das Problem von der Entwicklung des Agenten hin zum Betrieb der gesamten Flotte.

TrueForge ist das quelloffene, herstellerneutrale Agent-Framework von TrueFoundry für diese Laufzeitebene. Es steuert die Agenten-Schleife um das Modell herum – einschließlich Planung, Tool-Aufrufen, Kontextverwaltung, Freigaben und Sitzungsstatus – und ermöglicht es Ihnen gleichzeitig, Ihre eigenen Modelle, MCP-Server und Sandbox-Anbieter einzubinden.

Sie können es lokal ausführen mit npx @truefoundry/trueforge, oder dasselbe Harness für ein Team mit Docker Compose oder Helm bereitstellen. Weitere Informationen finden Sie in der TrueForge-Dokumentation.

Optimierung der Agent-Laufzeit

TrueForge bietet zudem verschiedene Mechanismen, um die Menge an Kontext- und Tool-Daten zu steuern, die das Modell erreichen.

Verzögertes Laden von Tools bedeutet, dass MCP-Tool-Schemas bei Bedarf geladen werden, anstatt das Fenster vorab zu füllen. Der Code-Modus ermöglicht es dem Agenten, mehrere Tool-Aufrufe innerhalb eines Sandbox-Skripts zu verketten, sodass nur die ausgegebene Zusammenfassung in den Kontext gelangt und nicht jedes Zwischenergebnis. Zu große Tool-Antworten werden ausgelagert in eine Sandbox-Datei und durch einen Pfad sowie eine Vorschau ersetzt. Die Komprimierung wird bei 80 % der Kontextlänge des Modells ausgelöst und ersetzt den alten Verlauf durch eine strukturierte Zusammenfassung, die direkt für die Wiedergabe geeignet ist. Subagenten laufen mit ihrem eigenen, bereinigten Kontext und geben nur das Ergebnis zurück.

Das Sandbox-Modell ist der zweite Hebel. Die meisten Harness-Lösungen kapseln die gesamte Sitzung in einem Container. TrueForge behandelt die Sandbox als Tool und startet diese nur, wenn der Agent tatsächlich Code ausführen muss. Dadurch kann ein Server viele Agenten gleichzeitig ausführen, und Aufgaben, die keinen Code erfordern, bleiben kostengünstig.

Mehr als eine Python-Bibliothek

TrueForge ist eher als Laufzeitumgebung strukturiert und nicht nur als Bibliotheks-Schnittstelle.

Der Core-Server führt die Agent-Schleife aus und bietet Streaming, Freigabeprozesse, Subagent-Delegierung, Komprimierung und persistente Sitzungen. Eine HTTP-API und ein TypeScript-SDK (@truefoundry/trueforge-sdk) stellen dieselben Funktionen programmatisch bereit. Ein separates Chat-UI und UI-SDK (@truefoundry/trueforge-ui) kann direkt verwendet, mit einem eigenen Design versehen oder in ein anderes Produkt eingebettet werden.

Dies bietet Teams eine Bereitstellungsebene, die über die reine Definition des Python-Agents hinausgeht: Dieselbe Laufzeitumgebung kann eine Anwendung, eine API oder eine eingebettete Agenten-Funktionalität betreiben.

Modelle, MCP-Server und Sandbox-Anbieter sind frei wählbar. Wenn ein günstigeres Modell auf den Markt kommt, können Sie dieses nutzen, ohne den Agenten neu schreiben zu müssen. So konnte derselbe Benchmark-Durchlauf auf GLM-5.2 dieselben ca. 11 von 14 Aufgaben für 2,90 $ pro Durchlauf lösen.

Deep Agents vs. TrueForge Benchmark

Der Unterschied zwischen einem Agenten-Framework und einer Agenten-Laufzeitumgebung wird deutlich, wenn man sie bei denselben Arbeitslasten vergleicht. TrueFoundry hat TrueForge und Deep Agents anhand des Enterprise-Bench von DevRev getestet, der aus 14 systemübergreifenden Unternehmensaufgaben besteht. Bei jeder Aufgabe muss der Agent planen, MCP-Tools für ein CRM, ein Projektverfolgungssystem und einen Dokumentenspeicher aufrufen, die Ergebnisse zusammenführen und eine Antwort liefern, die den Bewertungskriterien entspricht. Beide Testumgebungen führten dieselben Aufgaben mit denselben MCP-Servern aus, und die Antworten wurden von einem blinden LLM-Richter bewertet.

Bei konstantem Einsatz von Opus 4.8erzielten beide Testumgebungen eine ähnliche Genauigkeit bei der Aufgabenlösung, unterschieden sich jedoch in den Ausführungskosten:

Der Benchmark zeigt einen relativ geringen Unterschied bei der Genauigkeit, aber einen deutlich größeren Unterschied bei den Ausführungskosten. TrueForge verbrauchte weniger als ein Viertel der Token von Deep Agents und war damit etwa 2,5-mal günstiger pro Durchlauf bei Verwendung desselben Modells.

The Runtime Layer for Production AI Agents

Run production agents with an open-source runtime for your models, MCP tools, sandboxing, approvals, and observability.

Explore TrueForge

View on GitHub

Der Unterschied liegt größtenteils darin, wie die beiden Laufzeitumgebungen Orchestrierung und Kontext handhaben. Deep Agents bietet Funktionen wie Planung, ein virtuelles Dateisystem und Sub-Agenten, was jedoch bei jedem Schritt zu mehr Orchestrierungsaufwand und Kontext führen kann. TrueForge verfolgt einen schlankeren Ansatz und nutzt gezielte Tool-Aufrufe sowie Kontextkomprimierung, um zu vermeiden, dass große Verläufe und Tool-Antworten wiederholt an das Modell gesendet werden. Dies ist wichtig, da Die Kosten für einen Agenten werden nicht allein durch den Modellpreis bestimmt.. Zwei Agentensysteme, die dasselbe Modell verwenden, können einen sehr unterschiedlichen Token-Verbrauch aufweisen, je nachdem, wie sie Planung, Tool-Nutzung, Kontextverwaltung und Subagenten implementieren.

Verbindung der Agent-Runtime mit der Plattform-Ebene

TrueForge kann auch eine Verbindung zum AI Gateway und MCP Gateway von TrueFoundry herstellen, um Kontrollmechanismen bereitzustellen, die wichtig werden, sobald Agenten keine isolierten Projekte mehr sind. Dazu gehören zentralisierter Modellzugriff, MCP-Anmeldedaten, RBAC, Budgets, Guardrails, Rotation von Anmeldedaten und vereinheitlichte Traces. Dadurch werden diese Aspekte aus den individuellen Agentendefinitionen herausgelöst und in eine gemeinsame Plattform-Ebene verlagert.

Für Teams, die Deep Agents für den produktiven Einsatz evaluieren, ist der Benchmark eine nützliche Erinnerung daran, dass das Framework nur einen Teil des Stacks ausmacht. Die Runtime-Architektur rund um den Agenten kann einen erheblichen Einfluss auf den Token-Verbrauch, die Latenz und die Kosten haben. TrueForge wurde entwickelt, um diese Runtime-Ebene bereitzustellen, während die Wahl des Modells und der Infrastruktur offen bleibt.

Fazit

Deep Agents, create_agentund LangGraph befinden sich auf unterschiedlichen Abstraktionsebenen im LangChain-Agenten-Stack. create_agent bietet Ihnen eine leichtgewichtige Agenten-Schleife, während LangGraph die zugrunde liegenden Graph-Primitive für Entwickler bereitstellt, die den Ausführungsfluss selbst definieren müssen. Deep Agents baut auf LangGraph auf und bietet ein umfassenderes Agenten-Framework mit Funktionen für Planung, Subagenten, Kontextverwaltung und Dateisystemzugriff.

Die Entscheidung hängt daher davon ab, wie viel Kontrolle Sie über die Agent-Runtime haben möchten. Wenn eine Standard-Agenten-Schleife und integrierte Funktionen ausreichen, reduziert Deep Agents den Aufwand für den Aufbau der Infrastruktur. Wenn Sie eine leichtgewichtige Schleife benötigen, create_agent bietet einen einfacheren Ausgangspunkt. Wenn der Ausführungsfluss selbst die Kernanforderung ist, liefert Ihnen LangGraph die Primitive, um diesen explizit zu gestalten.

Für Teams, die über das LangChain-Ökosystem hinausblicken, TrueForge verfolgt einen anderen Ansatz: ein quelloffenes, modellneutrales Agent-Framework, das die Laufzeitschicht bereitstellt, während Sie die volle Kontrolle über das Modell und die zugrunde liegende Infrastruktur behalten.

FAQ

F: Was sind LangGraph Deep Agents?

‍A: Deep Agents ist das quelloffene, unter der MIT-Lizenz stehende Agent-Framework von LangChain, das auf LangGraph basiert. Der Aufruf von create_deep_agent() gibt einen kompilierten LangGraph-Graphen zurück, bei dem Planung, ein virtuelles Dateisystem, Subagent-Delegierung, Zusammenfassungen und Prompt-Caching bereits als Middleware integriert sind. Es wurde entwickelt, damit Teams das Grundgerüst, das für langlebige Agenten erforderlich ist, nicht manuell erstellen müssen.

F: Ist Deep Agents ein Ersatz für LangGraph?

‍A: Nein. Deep Agents baut auf LangGraph auf und gibt einen LangGraph-Graphen zurück. Es handelt sich um Schichten desselben Stacks, nicht um konkurrierende Optionen. Verwenden Sie Deep Agents, wenn die Standardstruktur eines Agenten für Ihre Aufgabe geeignet ist, und greifen Sie auf LangGraph zurück, wenn Sie einen benutzerdefinierten Kontrollfluss benötigen. Jeder LangGraph-Graph kann als Subagent wieder in einen Deep Agent eingebunden werden.

F: Welche Middleware ist standardmäßig in einem Deep Agent enthalten?

‍A: Sechs Komponenten: TodoListMiddleware für die Planung, FilesystemMiddleware für Dateioperationen, SubAgentMiddleware für die Delegation mit isoliertem Kontext, SummarizationMiddleware für die Kontextkomprimierung, AnthropicPromptCachingMiddleware für Token-Einsparungen bei Anthropic-Modellen und PatchToolCallsMiddleware für die Reparatur unterbrochener Tool-Aufrufe. MemoryMiddleware und SkillsMiddleware werden eingebunden, wenn Sie Memory oder Skills verwenden.

F: Unterstützt TrueFoundry MCP und KI-Agenten?

‍A: Ja. TrueFoundry umfasst ein MCP-Gateway, ein Agent-Gateway sowie eine MCP- & Agenten-Registry mit Zugriffskontrolle auf Tool-Ebene. Agenten, die auf Deep Agents, LangGraph, CrewAI, AutoGen oder benutzerdefinierten Frameworks basieren, können zentral bereitgestellt und verwaltet werden.

F: Kann ich TrueFoundry in meiner eigenen VPC oder On-Premise bereitstellen?

‍A: Ja. TrueFoundry läuft in Ihrer VPC, On-Premise, in isolierten Umgebungen (Air-Gapped), hybrid oder über mehrere Clouds hinweg, wobei keine Daten Ihre Domäne verlassen. Dies ist der Hauptgrund, warum regulierte Unternehmen es reinen SaaS-Gateways vorziehen.

F: Lässt es sich in meinen bestehenden Observability-Stack integrieren?

‍A: Ja. Das Gateway ist OpenTelemetry-kompatibel und lässt sich an Grafana, Datadog, Prometheus oder jedes andere von Ihnen bereits genutzte System anbinden, wobei jede Anfrage vom Prompt bis zur Tool- und Modellausführung nachverfolgt wird.

Weiterführende Artikel

• CrewAI vs. LangGraph – ein Vergleich von LangGraph mit dem anderen führenden Multi-Agenten-Framework
• AutoGen vs. LangGraph – der gleiche Vergleich mit dem Framework von Microsoft
• LangGraph-Preise – was LangGraph und die LangGraph Platform tatsächlich kosten
• LLM-Agenten: Architektur und Muster – die Grundlagen zu diesem Beitrag
• TrueForge: ein Open-Source-Framework für Agenten – unsere Herangehensweise an dasselbe Problem