Kontextkomprimierung in TrueForge erklärt: Was der Agent vergisst – und was die Sitzung beibehält

Auf Geschwindigkeit ausgelegt: ~ 10 ms Latenz, auch unter Last
Unglaublich schnelle Methode zum Erstellen, Verfolgen und Bereitstellen Ihrer Modelle!
- Verarbeitet mehr als 350 RPS auf nur 1 vCPU — kein Tuning erforderlich
- Produktionsbereit mit vollem Unternehmenssupport
Die Kompaktierung ermöglicht es einem langlebigen Agenten, weiterzuarbeiten, indem ältere Arbeitsverläufe durch eine strukturierte Zusammenfassung ersetzt werden. Dies ist gerade deshalb nützlich, weil es verlustbehaftet ist – und gefährlich, wenn es als archivierte Wahrheit betrachtet wird.
Die Kompaktierung verändert den Arbeitsspeicher des Agenten, nicht den historischen Datensatz der Sitzung
Lange Konversationen sammeln Benutzernachrichten, Assistentennachrichten, Tool-Aufrufe, Tool-Ergebnisse und Ausgaben von Sub-Agenten an. Irgendwann wird es teuer oder unmöglich, jedes Element beizubehalten. Die TrueForge Kontext-Kompaktierung adressiert dieses Laufzeitproblem, indem sie ältere Verläufe zusammenfasst und die Zusammenfassung anstelle der ursprünglichen Nachrichten für nachfolgende Modellschritte verwendet.
Der entscheidende Unterschied liegt in zwei Sichtweisen. Die persistente Sitzung behält ihren Ereignisverlauf bei. Der aktive Kontext des Modells nach der Kompaktierung enthält eine strukturierte, verlustbehaftete Darstellung der früheren Arbeit. Diese Sichtweisen beantworten unterschiedliche Fragen. Das Ereignisprotokoll unterstützt die Rekonstruktion dessen, was aufgezeichnet wurde; der kompaktierte Kontext unterstützt die fortlaufende Argumentation innerhalb eines begrenzten Token-Budgets.
Kompaktierung ist daher weder Löschung noch Archivierung oder Beweissicherung. Es ist ein Zustandsübergang in der Arbeitsdarstellung des Agenten. Ein Detail kann in den persistenten Ereignissen vorhanden bleiben, während es in der vom Modell verwendeten Zusammenfassung nicht mehr relevant – oder gar nicht mehr vorhanden – ist.

Das Diagramm trennt den dauerhaften Sitzungsdatensatz von der Darstellung, die für die nachfolgende Inferenz verwendet wird. Das Debugging erfordert beides, da das Vorhandensein im Ereignisprotokoll nicht bedeutet, dass es im kompaktierten Arbeitskontext relevant ist.
Das dokumentierte Auslösemodell
TrueForge dokumentiert, dass die Kompaktierung standardmäßig aktiviert ist. Sie wird ausgeführt, wenn der Eingabekontext 80 % der Kontextlänge des Modells erreicht. Wenn diese Länge nicht verfügbar ist, verwendet das System einen Fallback-Wert von 50.000 Eingabe-Token. Ein Agent kann auch eine explizite Eingabe-Token-Schwelle konfigurieren.
Dies sind Auslöse-Semantiken, keine Qualitätsgarantien. Eine Schwelle bestimmt, wann die Zusammenfassung ausgeführt wird; sie beweist nicht, dass die resultierende Zusammenfassung jede später benötigte Tatsache bewahrt. Teams sollten explizite Schwellenwerte wählen, wenn Modell-Metadaten unsicher sind, Aufgaben ungewöhnlich große reservierte Ausgabekapazitäten erfordern oder Tool-Schemata und Anhänge das effektive Budget kleiner machen als das nominelle Modellfenster.
Lassen Sie Spielraum für die nächste Modellantwort, Tool-Argumente, Genehmigungs-Payloads und jegliches Systemmaterial, das vom Harness eingefügt wird. Das Auslösen beim letzten möglichen Token ist betrieblich instabil, da die Kompaktierungsanfrage selbst und der nächste Argumentationsschritt ebenfalls Kontext verbrauchen.

Der Auslöser wird als Ressourcenentscheidung mit reserviertem Spielraum dargestellt. Die dokumentierten Standardwerte bestimmen das Timing; die Teams bleiben jedoch für arbeitslastspezifische Schwellenwerte und Qualitätsvalidierungen verantwortlich.
Was die Zusammenfassung bewahren soll
TrueForge beschreibt eine strukturierte Zusammenfassung, die die ursprüngliche Absicht, wichtige Entscheidungen, Dateien und Artefakte, Fehler und Korrekturen sowie nächste Schritte abdeckt. Diese Struktur ist wertvoll, da sie den Kompaktierer anweist, den Aufgabenstatus zu bewahren, anstatt eine allgemeine Zusammenfassung der Konversation zu erstellen.
Produktionsagenten sollten kritische Zustände leicht zusammenfassbar machen. Stabile Identifikatoren, typisierte Statusfelder, explizite Entscheidungsprotokolle und Artefakt-Digests überstehen die Kompaktierung besser als Fakten, die in konversationeller Prosa vergraben sind. Wenn eine irreversible Aktion von einem Wert abhängt, speichern Sie diesen Wert in einem autoritativen System oder einem typisierten Checkpoint, anstatt darauf zu vertrauen, dass er wortwörtlich in einer generierten Zusammenfassung erhalten bleibt.
Information: Aussagekräftige Arbeitsdarstellung. Autoritative Quelle. Benutzerziel: Präzise Absicht und aktueller Umfang. Ursprüngliche Anfrage und nachfolgende Benutzerentscheidungen. Entscheidung: Gewählte Option nebst Begründung und Einschränkungen. Entscheidungsereignis oder Anwendungsprotokoll. Artefakt: Pfad, Digest, Klassifizierung und Status. Artefakt-Speicher und Herkunftsnachweis. Externe Aktion: Vorgeschlagen, versucht, zugesichert oder ungewiss. System of Record unter einer Vorgangs-ID. Nächster Schritt: Benannte Aktion mit Voraussetzungen. Workflow-Status, wenn der Schritt konsequent ist.
Verlustbehaftetheit ist ein Feature mit einem Fehlertoleranzbereich
Eine nützliche Zusammenfassung lässt bewusst Details weg. Würde sie alles beibehalten, würde sie das Kontextproblem nicht lösen. Die ingenieurtechnische Aufgabe besteht darin, zu entscheiden, welche Verluste akzeptabel sind. Wiederholte Formulierungen, rohe Tool-Payloads und verworfene Erkundungen sind meist kostengünstig zu verwerfen. Genehmigungsumfang, numerische Schwellenwerte, Sicherheitsbeschränkungen und ungelöste Unsicherheiten hingegen nicht.
Kompaktierung kann Auslassungen, Komprimierung oder Neuinterpretationen einführen. Eine Zahl kann ihre Einheit verlieren; eine vorläufige Beobachtung kann zu einer Entscheidung werden; zwei ähnlich benannte Dateien können zusammengeführt werden; ein ungelöster Fehler kann hinter der endgültigen Problemumgehung verschwinden. Dies sind keine Behauptungen über einen spezifischen Defekt in TrueForge. Es sind Fehlermodi verlustbehafteter, modellgenerierter Zusammenfassungen, die das Testen prägen sollten.
Behandeln Sie jede Kompaktierungsgrenze als einen überprüfbaren Kontrollpunkt. Die Anwendung kann die generierte Zusammenfassung mit typisierten Invarianten vergleichen: aktives Ziel, erforderliche Genehmigungen, offene Vorgänge, Artefakt-Digests, Sicherheitsbeschränkungen und der nächste zulässige Übergang. Wenn eine Invariante fehlt oder ihr widersprochen wird, fahren Sie nicht stillschweigend fort.

Die Kompaktierungsgrenze wird testbar, wenn der kritische Status als Invarianten ausgedrückt wird. Eine fehlende Invariante kann die Fortsetzung stoppen, bevor eine verlustbehaftete Zusammenfassung zu einer unsicheren Aktion wird.
Kompaktierung und Abruf sind unterschiedliche Werkzeuge
Kompaktierung erzeugt ein kompaktes Arbeitsnarrativ. Abruf wählt relevantes Quellenmaterial genau dann aus, wenn es benötigt wird. Lang laufende Systeme benötigen oft beides. Eine Zusammenfassung kann besagen, dass ein Migrationsplan existiert und dessen Digest nennen; der Abruf kann den exakten Plan vor der Ausführung laden. Der Agent sollte kein 20-seitiges Artefakt in jedem Turn mitführen, aber er sollte auch nicht auf Basis einer Paraphrase agieren, wenn der exakte Inhalt von Bedeutung ist.
Dieses Muster reduziert den Druck auf die Zusammenfassung, ein perfektes Archiv sein zu müssen. Sie muss Zeiger, Status und Entscheidungsgrenzen bewahren. Exakte Beweise verbleiben in Dateien, Datenbanken oder Sitzungsereignissen und werden für Schritte mit hoher Tragweite neu geladen.
Kompaktierung und persistierte Ereignisse unterstützen unterschiedliche Debugging-Fragen
Wenn eine Antwort nach der Kompaktierung falsch ist, benötigen Ermittler sowohl den Datensatz vor der Kompaktierung als auch die kompaktierte Darstellung. Die Ereignishistorie kann zeigen, welche Informationen vorhanden waren. Die Zusammenfassung kann zeigen, welche Informationen das Modell tatsächlich weitergegeben hat. Ein Vergleich identifiziert, ob der Fehler vor der Kompaktierung, während der Zusammenfassung oder nach der Nutzung der Zusammenfassung aufgetreten ist.
Protokollieren Sie den Kompaktierungsauslöser, das verwendete Modell und die Konfiguration, den Eingabe-Ereignisbereich, das Zusammenfassungsereignis, die Token-Anzahl vor und nachher sowie das Validierungsergebnis. Versionieren Sie jeden Kompaktierungs-Prompt oder Invarianten-Prüfer auf Anwendungsebene. Ohne diesen Herkunftsnachweis ist eine Zusammenfassung schwer zu reproduzieren und Regressionen sind schwer zuzuordnen.
Wiederholte Kompaktierung kann Verluste verstärken
Eine lange Sitzung kann mehrfach kompaktieren. Wenn eine spätere Zusammenfassung aus einer früheren Zusammenfassung statt aus dem vollständigen relevanten Datensatz erstellt wird, können Auslassungen im Arbeitskontext dauerhaft werden. Eine kleine Mehrdeutigkeit kann in eine selbstbewusste Aussage komprimiert und dann so weitergeführt werden, als wäre sie ein ursprünglicher Beweis.
Verfolgen Sie Kompaktierungsgenerationen und den Ereignisbereich, den jede Zusammenfassung repräsentiert. Konstruieren Sie an wichtigen Meilensteinen den nächsten Arbeitsstatus aus dauerhaften, typisierten Kontrollpunkten sowie ausgewählten Quellereignissen, anstatt nur die vorherige Zusammenfassung zusammenzufassen. Dies ist besonders nützlich nach Genehmigungen, externen Änderungen, Übergaben bei Vorfällen oder einer wesentlichen Änderung der Benutzerabsicht.
Legen Sie ein maximales Sitzungsalter oder eine maximale Kompaktierungsanzahl für Workflows fest, bei denen das akkumulierte Interpretationsrisiko eine Rolle spielt. Eine neue Sitzung zu starten ist kein Fehler; es kann ein bewusster Reset sein, der nur verifizierten Status importiert. Die Übergabe sollte die vorherige Sitzung, genehmigte Artefakte, ungelöste Vorgänge und den Grund für den Reset benennen.
Kompaktierung ist keine Aufbewahrungs- oder Datenschutzkontrolle
Das Entfernen von Details aus dem Arbeitskontext des Modells bedeutet nicht, dass die zugrunde liegende Ereignishistorie gelöscht wurde. TrueForge unterscheidet explizit zwischen dem kompaktierten Kontext und persistierten Sitzungsereignissen. Richtlinien zur Datenaufbewahrung, Löschung, rechtlichen Aufbewahrung, zum Zugriff und Export müssen daher auf den persistierten Speichern und angehängten Artefakten operieren – nicht darauf, ob das Modell den Inhalt aktuell sieht.
Auch das Gegenteil ist wichtig. Eine kompakte Zusammenfassung kann sensible Informationen schützen, selbst wenn das ursprüngliche Detail für die Aufgabe nicht mehr benötigt wird. Wenden Sie Datenminimierung auf die Zusammenfassung selbst an, kontrollieren Sie den Zugriff auf den Sitzungsstatus und vermeiden Sie es, Geheimnisse oder rohe personenbezogene Daten in dauerhafte narrative Felder zu kopieren. Schwärzung und Aufbewahrung sollten für jede Kopie konzipiert sein: Modelleingabe, Zusammenfassung, Ereignisprotokoll, Datei, Trace und nachgelagerte Systeme.
Korrekturen durch den Menschen müssen die Grenze überdauern
Wenn ein Benutzer einen früheren Fakt korrigiert, sollte der kompakte Status die Korrektur beibehalten und den überholten Wert entfernen. Stellen Sie Korrekturen als explizite Statusübergänge dar, anstatt sich darauf zu verlassen, dass „der spätere Text gewinnt“. Testen Sie, ob die Zusammenfassung den aktuellen Wert beibehält, bei Bedarf die Herkunft der Daten aufzeichnet und den alten Wert nach einer weiteren Komprimierung nicht wieder aufleben lässt.
Bei strittigen oder regulierten Entscheidungen sollten die ursprüngliche Aussage, die Korrektur, der Entscheidungsverantwortliche und der Zeitpunkt des Inkrafttretens in einem maßgeblichen Protokoll festgehalten werden. Die Arbeitszusammenfassung kann die aktuelle Anweisung enthalten, während das dauerhafte Protokoll die für Audits und Einsprüche erforderliche Historie bewahrt.
Gehen Sie nicht von einer einmaligen oder deterministischen Fortsetzung aus
Ein persistenter Status und eine kompakte Zusammenfassung helfen einem Agenten bei der Fortsetzung. Sie machen externe Seiteneffekte jedoch nicht deterministisch. Wenn ein Tool-Aufruf während einer Datenbankänderung ein Timeout hatte, kann die Zusammenfassung zwar korrekt „Status unbekannt“ angeben, die Anwendung muss jedoch vor einem erneuten Versuch das maßgebliche System abfragen. Die Komprimierung sollte die Operationskennung und die Mehrdeutigkeit bewahren; die Abstimmung löst diese dann auf.
Ebenso sollte eine Zusammenfassung nicht stillschweigend eine alte Autorisierungsentscheidung in einen neuen Status übernehmen. Genehmigungen und geschäftliche Autorisierungen können ablaufen oder veralten, nachdem sich eine Ressource geändert hat. Bewerten Sie diese zum Zeitpunkt der Ausführung neu.
So testen Sie die Komprimierung
- Platzieren Sie kritische Fakten früh in einer langen Sitzung und überprüfen Sie, ob sie nach der Komprimierung weiterhin explizit vorhanden sind.
- Beziehen Sie ähnliche Dateinamen, Einheiten und Kennungen ein; testen Sie auf versehentliche Zusammenführungen.
- Führen Sie eine Komprimierung durch, während eine Genehmigung, ein externer Vorgang oder ein Fehler noch nicht gelöst ist.
- Stellen Sie sicher, dass verworfene Hypothesen nicht zu Entscheidungen erhoben werden.
- Vergleichen Sie Aktionen nach der Komprimierung mit einem Kontrolllauf, der die vollständige Historie beibehält.
- Wiederholen Sie repräsentative Sitzungen nach Änderungen am Modell oder an der Komprimierungskonfiguration.
- Bestätigen Sie, dass die gespeicherte Ereignishistorie weiterhin verfügbar ist, auch wenn der Arbeitskontext kürzer ist.
Ein Betriebsmodell für lange Sitzungen
Nutzen Sie den Arbeitskontext für aktuelle Absichten, Entscheidungen, Verweise und nächste Schritte. Verwenden Sie Sitzungsereignisse für das geordnete Laufzeitprotokoll. Nutzen Sie Dateien und Register für versionierte Artefakte. Verwenden Sie maßgebliche Systeme für den verbindlichen Geschäftsstatus. So kann die Komprimierung das Konversationsvolumen reduzieren, ohne zum einzigen Ort zu werden, an dem die Anwendung wichtige Fakten speichert.
Überwachen Sie die Komprimierungshäufigkeit, das Kompressionsverhältnis, die Fehlerrate nach der Komprimierung, Invarianzfehler, wiedereröffnete Fragen und wiederholte Tool-Aufrufe. Eine Sitzung, die wiederholt komprimiert wird, benötigt möglicherweise eine bessere Auslagerung von Tool-Ergebnissen, einen engeren Aufgabenbereich oder eine bewusste neue Sitzung anstelle immer dichterer Zusammenfassungen.
Die operative Regel
Die TrueForge-Kontextkomprimierung verlängert die Nutzungsdauer einer Agentensitzung, indem historische Details gegen eine strukturierte Arbeitszusammenfassung ausgetauscht werden. Das sichere mentale Modell lautet „verlustbehaftete Fortsetzung über ein dauerhaftes Protokoll“ und nicht „perfektes Gedächtnis“.
Bewahren Sie stabile Pointer und typisierte Invarianten, laden Sie bei Bedarf präzise Nachweise nach, gleichen Sie externe Effekte mit autoritativen Systemen ab und testen Sie die Schnittstellen explizit. Die Komprimierung wird zuverlässig, wenn das System weiß, welche Fakten eine Zusammenfassung verdichten darf – und welche Fakten unter keinen Umständen erfunden oder vergessen werden dürfen.
Referenzen
Redaktioneller Hinweis. Dieser Artikel spiegelt die technische Interpretation der zitierten öffentlichen Materialien durch TrueFoundry zum Stand vom 19. September 2026 wider. Der Funktionsumfang der Produkte ist in der verlinkten Dokumentation definiert. Beispiele und Standardeinstellungen dienen der Veranschaulichung; sie stellen keine Rechtsberatung, kein Prüfungsgutachten, keinen unabhängigen Benchmark und keine Garantie für Sicherheit oder Compliance dar.
TrueFoundry AI Gateway bietet eine Latenz von ~3—4 ms, verarbeitet mehr als 350 RPS auf einer vCPU, skaliert problemlos horizontal und ist produktionsbereit, während LiteLM unter einer hohen Latenz leidet, mit moderaten RPS zu kämpfen hat, keine integrierte Skalierung hat und sich am besten für leichte Workloads oder Prototyp-Workloads eignet.















.webp)
.webp)
.png)

.png)
.png)
.png)
.png)
.png)
.webp)
.webp)

.png)
.png)





