Contextcompactie in TrueForge uitgelegd: Wat de agent vergeet—en wat de sessie behoudt

Gebouwd voor snelheid: ~10ms latentie, zelfs onder belasting
De razendsnelle manier om je modellen te bouwen, volgen en implementeren!
- Verwerkt 350+ RPS op slechts 1 vCPU — geen tuning nodig
- Productieklaar met volledige enterprise-ondersteuning
Dankzij compactie kan een langdurig actieve agent doorgaan door een oudere werkgeschiedenis te vervangen door een gestructureerde samenvatting. Dat is precies nuttig omdat het verlieslatend is—en gevaarlijk als het wordt behandeld als de archivarische waarheid.
Compactie verandert het werkgeheugen van de agent, niet het historische archief van de sessie
Lange gesprekken verzamelen gebruikersberichten, assistentberichten, tool calls, toolresultaten en subagent-outputs. Uiteindelijk wordt het meenemen van elk item kostbaar of onmogelijk. TrueForge-contextcompactie lost dat runtimeprobleem op door de oudere geschiedenis samen te vatten en de samenvatting te gebruiken in plaats van de oorspronkelijke berichten voor opeenvolgende modelstappen.
Het cruciale onderscheid ligt tussen twee weergaven. De permanente sessie behoudt zijn gebeurtenisgeschiedenis. De actieve context van het model na compactie bevat een gestructureerde, verlieslatende weergave van eerder werk. Die weergaven beantwoorden verschillende vragen. Het gebeurtenissenlogboek ondersteunt de reconstructie van wat is vastgelegd; de gecompacteerde context ondersteunt voortgezette redenering binnen een eindig tokenbudget.
Compactie is daarom geen verwijdering, archivering of bewijs. Het is een toe-standsovergang in de werkrepresentatie van de agent. Een detail kan aanwezig blijven in permanente gebeurtenissen, terwijl het niet langer prominent—of zelfs aanwezig—is in de samenvatting die het model gebruikt.

Het diagram scheidt het duurzame sessiearchief van de weergave die wordt gebruikt voor opeenvolgende inferentie. Foutopsporing vereist beide, omdat aanwezigheid in het gebeurtenissenlogboek geen prominentie in de gecompacteerde werkcontext betekent.
Het gedocumenteerde activeringsmodel
TrueForge documenteert dat compactie standaard is ingeschakeld. Het wordt uitgevoerd wanneer de invoercontext 80% van de contextlengte van het model bereikt. Als die lengte niet beschikbaar is, gebruikt het harness een terugvaloptie van 50.000 invoertokens. Een agent kan ook een expliciete invoertokendrempel configureren.
Dit zijn activeringssemantieken, geen kwaliteitsgaranties. Een drempelwaarde bepaalt wanneer de samenvatting wordt uitgevoerd; het bewijst niet dat de resulterende samenvatting elk feit behoudt dat later nodig is. Teams moeten expliciete drempelwaarden kiezen wanneer de metadata van het model onzeker is, taken ongewoon grote gereserveerde outputbehoeften hebben, of tool-schema's en bijlagen het effectieve budget kleiner maken dan het nominale modelvenster.
Laat ruimte over voor de volgende modelrespons, tool-argumenten, goedkeuringspayloads en al het systeemmateriaal dat door het harness wordt ingevoerd. Activeren op het laatst mogelijke token is operationeel kwetsbaar omdat het compactieverzoek zelf en de volgende redeneerstap ook context verbruiken.

De trigger wordt weergegeven als een bronnenbeslissing met gereserveerde ruimte. De gedocumenteerde standaardwaarden bepalen de timing; teams blijven verantwoordelijk voor werklastspecifieke drempelwaarden en kwaliteitsvalidatie.
Wat de samenvatting naar verwachting behoudt
TrueForge beschrijft een gestructureerde samenvatting die de oorspronkelijke intentie, sleutelbeslissingen, bestanden en artefacten, fouten en oplossingen, en vervolgstappen omvat. Die structuur is waardevol omdat het de compactor vraagt om de taakstatus te behouden in plaats van een generieke gesprekssynopsis te produceren.
Productie-agents moeten kritieke status eenvoudig samen te vatten maken. Stabiele identificatiemiddelen, getypeerde statusvelden, expliciete beslissingsrecords en artefact-digests overleven compactie beter dan feiten die begraven liggen in conversationele proza. Als een onomkeerbare actie afhankelijk is van een waarde, sla die waarde dan op in een geautoriseerd systeem of een getypeerd controlepunt in plaats van erop te vertrouwen dat deze letterlijk aanwezig blijft in een gegenereerde samenvatting.
Verliesvaardigheid is een functie met een foutenbudget
Een nuttige samenvatting verwijdert bewust details. Als het alles zou behouden, zou het het contextprobleem niet oplossen. De taak van de engineer is om te beslissen welke verliezen acceptabel zijn. Herhaalde formuleringen, ruwe toolpayloads en opgegeven verkenningen zijn meestal goedkoop om weg te gooien. Goedkeuringsbereik, numerieke drempelwaarden, beveiligingsbeperkingen en onopgeloste onzekerheid zijn dat niet.
Compactie kan leiden tot weglating, compressie of herinterpretatie. Een getal kan zijn eenheid verliezen; een voorlopige observatie kan een beslissing worden; twee vergelijkbaar genoemde bestanden kunnen worden samengevoegd; een onopgeloste fout kan verdwijnen achter de uiteindelijke tijdelijke oplossing. Dit zijn geen beweringspunten over een specifiek defect in TrueForge. Het zijn foutmodi van verlieslatende, door modellen gegenereerde samenvattingen en moeten de tests sturen.
Behandel elke compactiegrens als een controlepunt dat kan worden geëvalueerd. De applicatie kan de gegenereerde samenvatting vergelijken met getypeerde invarianten: actief doel, vereiste goedkeuringen, openstaande operaties, artefact-digests, beveiligingsbeperkingen en de volgende toegestane overgang. Als een invariant ontbreekt of wordt tegensproken, ga dan niet stilzwijgend door.

De compactiegrens wordt testbaar wanneer de kritieke status wordt uitgedrukt als invarianten. Een ontbrekende invariant kan het vervolg stoppen voordat een verlieslatende samenvatting een onveilige actie wordt.
Compactie en retrieval zijn verschillende hulpmiddelen
Compactie creëert een compact werkverhaal. Retrieval selecteert relevant bronmateriaal op het moment dat het nodig is. Langlopende systemen hebben vaak beide nodig. Een samenvatting kan vermelden dat er een migratieplan bestaat en de digest ervan benoemen; retrieval kan het exacte plan laden vóór de uitvoering. De agent hoeft niet in elke beurt een artefact van 20 pagina's mee te dragen, maar moet ook niet uitvoeren op basis van een parafrase wanneer de exacte inhoud ertoe doet.
Dit patroon vermindert de druk op de samenvatting om een perfect archief te zijn. Het moet verwijzingen, status en beslissingsgrenzen behouden. Exact bewijs blijft in bestanden, databases of sessie-gebeurtenissen en wordt opnieuw geladen voor stappen met een hoog risico.
Compactie en permanente gebeurtenissen ondersteunen verschillende foutopsporingsvragen
Wanneer een antwoord na compactie onjuist is, hebben onderzoekers zowel het record van vóór de compactie als de gecompacteerde weergave nodig. De gebeurtenisgeschiedenis kan tonen welke informatie bestond. De samenvatting kan tonen welke informatie het model daadwerkelijk heeft meegenomen. Het vergelijken ervan geeft aan of de fout is ontstaan vóór de compactie, tijdens de samenvatting of nadat de samenvatting werd gebruikt.
Leg de compactietrigger, het gebruikte model en de configuratie, het invoergebeurtenisbereik, de samenvattingsgebeurtenis, het aantal tokens voor en na, en het validatieresultaat vast. Ken versies toe aan elke compactie-prompt of invariant-checker op applicatieniveau. Zonder die herkomst is een samenvatting moeilijk te reproduceren en zijn regressies moeilijk toe te schrijven.
Herhaalde compactie kan verlies opstapelen
Een lange sessie kan meer dan eens compactie uitvoeren. Als een latere samenvatting wordt geproduceerd op basis van een eerdere samenvatting in plaats van het volledige relevante record, kunnen weglatingen permanent worden in de werkcontext. Een kleine ambiguïteit kan worden gecomprimeerd tot een stellige bewering, en vervolgens worden meegenomen alsof het oorspronkelijk bewijs was.
Houd compactiegeneraties bij en het gebeurtenisbereik dat elke samenvatting vertegenwoordigt. Bij belangrijke mijlpalen bouwt u de volgende werkstatus op uit duurzame getypeerde controlepunten plus geselecteerde brongebeurtenissen in plaats van alleen de vorige samenvatting samen te vatten. Dit is vooral nuttig na goedkeuringen, externe mutaties, overdrachten van incidenten of een wezenlijke verandering in de intentie van de gebruiker.
Stel een maximale sessieleftijd of compactie-aantal in voor workflows waarin het opgebouwde interpretatierisico van belang is. Het starten van een nieuwe sessie is geen mislukking; het kan een bewuste reset zijn die alleen geverifieerde status importeert. De overdracht moet de vorige sessie, goedgekeurde artefacten, onopgeloste operaties en de reden voor de reset vermelden.
Compactie is geen bewaar- of privacycontrole
Het verwijderen van details uit de werkcontext van het model betekent niet dat de onderliggende gebeurtenisgeschiedenis is verwijderd. TrueForge maakt expliciet onderscheid tussen de gecompacteerde context en permanente sessie-gebeurtenissen. Beleid inzake dataretentie, verwijdering, juridische bewaringsplicht, toegang en export moet daarom werken op de permanente opslaglocaties en gekoppelde artefacten—niet op de vraag of het model de inhoud momenteel ziet.
Het omgekeerde geldt ook. Een gecompacteerde samenvatting kan gevoelige informatie behouden, zelfs wanneer het oorspronkelijke detail niet langer nodig is voor de taak. Pas dataminimalisatie toe op de samenvatting zelf, beheer wie de sessiestatus kan lezen en voorkom het kopiëren van geheimen of ruwe persoonsgegevens naar duurzame narratieve velden. Redactie en retentie moeten worden ontworpen over elke kopie: modelinvoer, samenvatting, gebeurtenisrecord, bestand, trace en stroomafwaarts systeem.
Menselijke correcties moeten de grens overleven
Als een gebruiker een eerder feit meedeelt of corrigeert, moet de gecompacteerde status de correctie behouden en de vervangen waarde intrekken. Geef correcties weer als expliciete statusovergangen in plaats van te vertrouwen op "latere tekst wint". Test of de samenvatting de huidige waarde behoudt, de herkomst van het materiaal waar nodig vastlegt en de oude waarde niet opnieuw activeert na nog een compactie.
Voor betwiste of gereguleerde beslissingen bewaart u de oorspronkelijke verklaring, correctie, beslissingseigenaar en ingangsdatum in een geautoriseerd record. De werksamenvatting kan de huidige instructie bevatten, terwijl het duurzame record de geschiedenis behoudt die nodig is voor audit en beroep.
Lijd geen exact-één-maal- of deterministische voortzetting af
De permanente status en een gecompacteerde samenvatting helpen een agent om door te gaan. Ze maken externe bijwerkingen niet deterministisch. Als er een meervoudige tool-call is verlopen rond een databasemutatie, kan de samenvatting nauwkeurig "status onbekend" vermelden, maar de applicatie moet nog steeds de autoritatieve bron raadplegen voordat deze het opnieuw probeert. Compactie moet de operatie-ID en de ambiguïteit behouden; reconciliatie lost het op.
Evenzo mag een samenvatting niet stilzwijgend een oude autorisatiebeslissing meenemen naar een nieuwe status. Goedkeuring en zakelijke autorisatie kunnen verlopen of verouderd raken nadat een bron verandert. Herevalueer deze op het moment van uitvoering.
Hoe u compactie test
- Plaats kritieke feiten vroeg in een lange sessie en controleer of ze na compactie expliciet blijven.
- Voeg vergelijkbare bestandsnamen, eenheden en identificaties toe; test op onbedoelde samenvoeging.
- Voer compactie uit terwijl een goedkeuring, externe operatie of fout onopgelost blijft.
- Controleer of verlaten hypothesen niet worden gepromoveerd tot beslissingen.
- Vergelijk acties na compactie met een controle-run die de volledige geschiedenis behoudt.
- Speel representatieve sessies opnieuw af na wijzigingen in de model- of compactieconfiguratie.
- Bevestig dat de permanente gebeurtenisgeschiedenis beschikbaar blijft, ook al is de werkcontext korter.
Een operationeel model voor lange sessies
Gebruik de werkcontext voor de huidige intentie, beslissingen, verwijzingen en vervolgstappen. Gebruik sessie-gebeurtenissen voor het geordende runtime-record. Gebruik bestanden en registers voor versiebeheerde artefacten. Gebruik systems of record voor doorgevoerde zakelijke status. Dan kan compactie de omvang van het gesprek verminderen zonder de enige plek te worden waar de applicatie belangrijke feiten onthoudt.
Bewaak de compactiefrequentie, compressieverhouding, foutenpercentage na compactie, fouten in invarianten, heropende vragen en herhaalde tool calls. Een sessie die herhaaldelijk compactie uitvoert, heeft mogelijk een betere uitbesteding van toolresultaten, een kortere taakomvang of een bewuste nieuwe sessie nodig in plaats van steeds meervoudige en compactere samenvattingen.
De operationele regel
TrueForge-contextcompactie verlengt de nuttige levensduur van een agentsessie door historische details in te ruilen voor een gestructureerde werksamenvatting. Het veilige mentale model is "verlieslatende voortzetting over een duurzaam archief", niet "perfect geheugen".
Behoud stabiele verwijzingen en getypeerde invarianten, laad exact bewijs opnieuw wanneer dat er toe doet, stem externe effecten af met geautoriseerde systemen en test de grens expliciet. Compactie wordt betrouwbaar wanneer het systeem weet welke feiten een samenvatting mag comprimeren—en welke feiten het nooit mag bedenken of vergeten.
Referenties
Redactionele vermelding. Dit artikel weerspiegelt de technische interpretatie van TrueFoundry van de geciteerde openbare materialen per 19 september 2026. Productmogelijkheden zijn beperkt tot de gekoppelde documentatie. Voorbeelden en operationele standaardwaarden zijn illustratief; ze vormen geen juridisch advies, een audit-oordeel, een onafhankelijke benchmark of een garantie voor beveiliging, veiligheid of naleving.
TrueFoundry AI Gateway levert een latentie van ~3–4 ms, verwerkt 350+ RPS op 1 vCPU, schaalt moeiteloos horizontaal en is klaar voor productie, terwijl LiteLLM last heeft van hoge latentie, moeite heeft boven een gemiddeld aantal RPS, geen ingebouwde schaling heeft en het meest geschikt is voor lichte workloads of prototypes.















.png)

.webp)



.webp)








.webp)





