Agent-hervatbaarheid uitgelegd: Sessies, Turns, Pauzes en Reconnects in TrueForge

Gebouwd voor snelheid: ~10ms latentie, zelfs onder belasting
De razendsnelle manier om je modellen te bouwen, volgen en implementeren!
- Verwerkt 350+ RPS op slechts 1 vCPU — geen tuning nodig
- Productieklaar met volledige enterprise-ondersteuning
Het hervatten van een agent is niet één enkele operatie. Productiesystemen moeten onderscheid maken tussen het herverbinden van een stream, het voortzetten van een gepauzeerde workflow en het herstellen van een onzeker extern neveneffect.
“Hervatten” verbergt drie verschillende herstelproblemen
Langlopende agents falen op meer plekken dan een conventionele request-response API. Een browser kan de verbinding verliezen terwijl de server blijft doorwerken. Een workflow kan opzettelijk stoppen omdat een mens, een client-side tool of een OAuth-flow invoer moet leveren. Een downstream API kan een timeout geven nadat een mutatie is doorgevoerd. Alle drie de situaties kunnen worden omschreven als “hervatten”, maar ze vereisen verschillende states, bewijslast en veiligheidsregels.
De eerste is transport-herstel: opnieuw verbinden met een nog lopende stream zonder events te dupliceren. De tweede is workflow-voortzetting: een nieuwe werkeenheid maken die reageert op een vastgelegde pauze. De derde is effect-herstel: vaststellen of een externe operatie is doorgevoerd voordat wordt besloten om het opnieuw te proberen, te compenseren of te stoppen. Wanneer u deze als één mechanisme behandelt, ontstaat het gevaarlijkste type betrouwbaarheidsfout—een fout die succesvol lijkt terwijl een fysieke actie wordt herhaald of overgeslagen.

De drie takken eindigen bewust in verschillende acties. Een stream-sequentie herstelt de observatie, een required-action-referentie zet de workflow voort en een operatie-ID ondersteunt de afstemming; het vervangen van de ene identificator door de andere leidt tot duplicaten of valse voltooiing.
Begin met de TrueForge-hiërarchie
TrueForge documenteert een hiërarchie van Agent → Session → Turn → Event → Delta. Een agent is een herbruikbare definitie. Een sessie vertegenwoordigt één probleem of gesprek en blijft behouden over verschillende turns. Een turn is één verzoek-en-uitvoeringscyclus die loopt totdat deze is voltooid of gepauzeerd. Events beschrijven wat er tijdens die turn is gebeurd. Sommige message-events genereren deltas tijdens het streamen; geconfigureerde event-lijsten retourneren het samengevoegde event in plaats van elk live fragment.
Deze hiërarchie is van belang omdat elke laag een andere herstelvraag beantwoordt. De agent-definitie legt het geconfigureerde model, de instructies, de tools en de limieten vast. De sessie biedt duurzame gesprekscontinuïteit. De turn vormt een uitvoeringsgrens met een eindstatus. Events tonen het geordende bewijs dat nodig is om een client-weergave opnieuw op te bouwen. Deltas optimaliseren de live-ervaring, maar zijn geen afzonderlijke, duurzame zakelijke feiten.
TrueForge staat toe dat er slechts één turn tegelijk actief is in een sessie. Turns worden automatisch geketend, zodat de applicatie niet bij elk verzoek de volledige geschiedenis opnieuw hoeft te versturen. Het maken van een nieuwe turn terwijl er nog een loopt, annuleert de actieve turn. Dat gedrag is nuttig, maar het betekent dat een UI niet elke ongeduldige klik moet omzetten in een nieuwe turn zonder een duidelijke productbeslissing.
Transport-herverbinding is geen workflow-voortzetting
Een live turn maakt gebruik van een Server-Sent Events-stream. Elk gestreamd item bevat een sequentie-identificator die de client kan bewaren. Als de verbinding wegvalt, kan de client zich opnieuw abonneren vanaf het laatst verwerkte sequentienummer. De server kan vervolgens latere events van dezelfde lopende turn opnieuw afspelen. Een correct ingestelde client slaat events op via event-ID en voegt deltas samen in hun basis message-event, zodat herhaalde transmissie de zichtbare uitvoer niet dupliceert.
Dat is transport-herverbinding. De oorspronkelijke turn is niet gepauzeerd voor een zakelijke beslissing; alleen de netwerkverbinding is onderbroken. De server kan doorgaan met uitvoeren terwijl de client afwezig is. Een herverbindende UI vraagt zich daarom af: “Welke events van deze bestaande turn heb ik nog niet gerenderd?” Het moet geen nieuwe turn aanmaken of de oorspronkelijke gebruikerinstructie opnieuw versturen.
Zodra een turn is voltooid, kunnen de gepersisteerde events opnieuw worden uitgelezen om de vastgelegde geschiedenis te reconstrueren. Dat is het opnieuw afspelen van bewijs, niet het opnieuw uitvoeren van het model en de tools. Het onderscheid is belangrijk voor incidentanalyses: dezelfde opgeslagen sequentie moet dezelfde gereconstrueerde weergave opleveren, maar een poging om de taak opnieuw uit te voeren kan te maken krijgen met andere modellen, tools, referenties en externe states.

De afbeelding scheidt de duurzame hiërarchie van het leveringsmechanisme. Deltas behoren tot de live stream en worden samengevoegd in basisevents, terwijl sessies, geketende turns, eindstaten en gepersisteerde events de vastgelegde gegevens bieden die worden gebruikt na een herverbinding of herstart.
Pauzes zijn expliciete runtime-staten
Een turn kan eindigen met vereiste acties in plaats van een definitief antwoord. TrueForge documenteert drie belangrijke gevallen: een afgeschermde tool heeft goedkeuring nodig, een client-side tool heeft een reactie nodig, of een MCP-server heeft autorisatie nodig. De eindstatus van de turn identificeert de openstaande items. De applicatie verwerkt deze door een nieuwe turn aan te maken die de bijbehorende goedkeuring, tool-reactie of authenticatie-voortzetting bevat.
Dit is workflow-voortzetting, geen stream-herverbinding. De gepauzeerde turn is al afgerond. De volgende turn behoudt de causale continuïteit door te verwijzen naar de openstaande actie en door aan te sluiten op de geschiedenis van de sessie. Eén enkele turn kan meerdere openstaande items opleveren, waaronder pauzes uit parallelle subagent-threads. Clients moeten daarom de volledige set van vereiste acties verzamelen in plaats van ervan uit te gaan dat er precies één is.
Voor pauzes vanwege goedkeuringen en reacties koppelt het bron-event het openstaande item aan het modelbericht dat de tool-call voorstelde. Die koppeling stelt de applicatie in staat om de beoordelaar de toolnaam en argumenten te tonen die het controlepunt hebben veroorzaakt. Het is ook de basis om te verifiëren dat de voortzetting reageert op de bedoelde call en niet op een visueel vergelijkbare call.
Bouw een hervatbaarheidscontract
De grens voor neveneffecten blijft buiten de stream
Geordende runtime-events kunnen aantonen dat de agent een tool-call heeft voorgesteld, dat de harness deze heeft geprobeerd en dat er een reactie is ontvangen. Ze kunnen geen exact-once-semantiek garanderen in een willekeurig betalings-, ticketing-, deployment- of identiteitssysteem. Een timeout kan optreden vóór de commit, na de commit, of terwijl het downstream-systeem de operatie nog aan het verwerken is.
Ingrijpende tools moeten daarom een operatie-ID accepteren die is gegenereerd vóór de eerste poging. Als het downstream-systeem idempotentiesleutels ondersteunt, hergebruik die sleutel dan voor semantisch identieke herhaalde pogingen. Als dat niet zo is, voeg dan een applicatiedienst toe die de operatie registreert en afstemt met het leidende systeem. Wanneer het resultaat onduidelijk blijft, beperk dan de bevoegdheden en stuur het verzoek naar een mens, in plaats van het model het succes te laten afleiden uit de narratieve context.
Dit is de scheidslijn tussen hervatbaarheid en herhaalveiligheid (replay safety). TrueForge biedt een duurzame orchestratiestatus en bewijslast. De bedrijfsapplicatie is verantwoordelijk voor mutatiesemantiek, controle van state-versies, idempotentie, afstemming en compensatie.

De controle op herhaalde pogingen bevindt zich ná—en niet ín—de runtime-trace. TrueForge kan het geprobeerde pad tonen, maar de applicatie moet het leidende systeem raadplegen voordat wordt besloten of een nieuwe externe mutatie veilig is.
Annulering is een afzonderlijke overgang
TrueForge documenteert annulering als het stoppen van de actieve turn: het onderbreekt het lopende modelverzoek, wacht tot lopende MCP-calls zijn afgerond en stopt geforceerd een sandbox die door die turn is aangemaakt. De event-stream sluit met een terminal turn event. Een latere turn kan de sessie voortzetten en ziet de geannuleerde turn dus terug in de geschiedenis.
“Geannuleerd” betekent niet dat elk extern effect ongedaan is gemaakt. Een lopende MCP-call kan al zijn afgerond en een extern systeem kan de wijziging al hebben doorgevoerd. Annuleringshandlers moeten openstaande operaties inventariseren, de status ervan afstemmen en de volgende turn informeren over wat bekend, onbekend of onomkeerbaar is. Een noodknop die alleen de UI-stream sluit, is geen beheersmaatregel op systeemniveau.
Een uitgewerkt voorbeeld: goedkeuring van een deployment
Een operations-agent bereidt het herstarten van een productiedienst voor. Turn 1 verzamelt statusgegevens en stelt de actie voor. De turn eindigt met een goedkeuringsvereiste die is gekoppeld aan de exacte tool-call. De beoordelaar ziet de dienst, het cluster, de voorgestelde wijziging, de huidige status en de risicocontext. Deze beslissing dient als invoer voor Turn 2.
Als de browser van de beoordelaar de verbinding verliest tijdens Turn 1, verbindt de UI opnieuw met die turn vanaf het laatste sequentienummer. Er wordt geen nieuw herstartverzoek ingediend. Als de goedkeuring binnenkomt nadat de status van de deployment is gewijzigd, valideert de applicatie het doel en het beleid opnieuw vóór de uitvoering. Het koppelt het downstream-verzoek aan een operatie-ID. Als de deployment-controller een timeout geeft, raadpleegt de agent de controller voor die specifieke operatie in plaats van de herstart opnieuw aan te roepen.
De sessie kan alle drie de onderbrekingen overleven omdat het ontwerp drie verschillende ankers behoudt: stream-sequentie voor herstel van de presentatie, identiteit van de vereiste actie voor voortzetting van de workflow, en operatie-identiteit voor herstel van effecten.
Test de grenzen van storingen
- Verbreek de verbinding voor en na elk event-type; controleer of de gereconstrueerde stream geen ontbrekende of dubbele logische events bevat.
- Verbind twee clients opnieuw met hetzelfde sequentie-controlepunt; controleer of beide dezelfde turn observeren zonder extra werk te genereren.
- Retourneer meerdere openstaande goedkeuringen uit parallelle threads; controleer of de UI elke relatie met het bron-event behoudt.
- Maak een nieuwe gebruikers-turn aan terwijl er een andere turn loopt; controleer of de annulering opzettelijk en zichtbaar is.
- Keur een actie goed en wijzig vervolgens de fysieke status van het doel; controleer of de autorisatie opnieuw wordt uitgevoerd vóór de uitvoering.
- Simuleer een timeout na een downstream-commit; controleer of de afstemming een dubbele mutatie voorkomt.
- Annuleer tijdens een MCP-call en tijdens de uitvoering van een sandbox; controleer of externe en lokale effecten afzonderlijk worden geïnventariseerd.
Versiewijzigingen maken voortzetting een beleidsbeslissing
Een duurzame sessie kan langer meegaan dan de agent-definitie die deze heeft aangemaakt. Modellen worden bijgewerkt, instructies veranderen, tools worden verwijderd en het beleid wordt aangescherpt terwijl een gebruiker afwezig is. Het automatisch ketenen van turns behoudt de gespreksgeschiedenis, maar geeft geen antwoord op de vraag of een nieuwe runtime-versie oud werk moet voortzetten op basis van oude aannames.
Leg de geldende agent-specificatie of release-identificator vast bij elke turn. Wanneer een sessie wordt hervat na een ingrijpende wijziging, vergelijk dan het openstaande werk met de huidige functionaliteiten. Een onschadelijk ondersteuningsgesprek kan worden voortgezet onder de nieuwe versie. Een gepauzeerde overboeking die is voorgesteld onder een ouder beleid, moet mogelijk worden geannuleerd en opnieuw opgebouwd. De beslissing moet afhangen van de actie en de status, niet alleen van de verstreken tijd.
ComPACTie (samenvatten van context) is nog een reden om expliciete gegevens te bewaren. De werkcontext van het model kan een gestructureerde samenvatting bevatten in plaats van elk eerder bericht, terwijl de volledige event-geschiedenis bewaard blijft. Beveiligingskritieke feiten—goedgekeurd bedrag, doelbron, operatie-ID, stopconditie—moeten worden opgeslagen in getypte applicatiestatus en beleidsinvoer, in plaats van te vertrouwen op een samenvatting van het gesprek waarin informatie verloren kan zijn gegaan.
Hersteloefeningen moeten daarom versiegrenzen overschrijden. Pauzeer een sessie, pas de agent-configuratie aan, trek een tool in, wijzig een model-route en probeer vervolgens de voortzetting. Controleer of de nieuwe turn kan uitleggen welke status is overgenomen, welke regels opnieuw zijn beoordeeld en waarom een openstaande operatie is hervat, geweigerd of opnieuw opgebouwd.
De operationele regel
Hervatbaarheid is niet “dezelfde prompt opnieuw uitvoeren.” Het is het gecontroleerd voortzetten van een bekende status onder een specifiek herstelcontract. Transport-herstel hervat de observatie. Workflow-herstel levert een ontbrekende beslissing of resultaat. Effect-herstel vraagt aan een leidend systeem wat er is gebeurd.
TrueForge biedt krachtige basiscomponenten voor de eerste twee en het bewijsmateriaal dat nodig is om de derde te implementeren. Een betrouwbaar ontwerp houdt ze gescheiden, geeft elke overgang een stabiele identificator en zorgt ervoor dat een samenvatting van een agent nooit een definitief doorgevoerde status vervangt.
Referenties
- TrueForge — SDK Concepts.
- TrueForge — Use an Agent.
- TrueForge — Create and Execute a Turn.
- TrueForge — Subscribe to a Running Turn.
Redactionele vermelding. Dit artikel geeft de technische interpretatie van TrueFoundry weer van de geciteerde openbare materialen per 14 september 2026. Productfunctionaliteiten zijn beperkt tot de gekoppelde documentatie. Voorbeelden en standaardinstellingen dienen ter illustratie; ze vormen geen juridisch advies, een audit-oordeel, een onafhankelijke benchmark of een garantie voor beveiliging, veiligheid of naleving.
TrueFoundry AI Gateway levert een latentie van ~3–4 ms, verwerkt 350+ RPS op 1 vCPU, schaalt moeiteloos horizontaal en is klaar voor productie, terwijl LiteLLM last heeft van hoge latentie, moeite heeft boven een gemiddeld aantal RPS, geen ingebouwde schaling heeft en het meest geschikt is voor lichte workloads of prototypes.















.webp)

.webp)
.webp)


.webp)
.webp)


.webp)







