Agent Harness Best Practices: 10 regels voor AI-agents in productie

Het model is zelden meer het moeilijkste onderdeel. Frontier models zijn capabel genoeg dat, voor veel agent-workloads, overstappen daartussen even eenvoudig kan zijn als het aanpassen van een configuratieveld. Wat een agent die werkt in een demo onderscheidt van een agent die na drie maanden in productie nog steeds betrouwbaar werkt, is alles rondom het model: de loop, de context, de tools, de sandbox, de goedkeuringen en de regels die voorkomen dat de agent iets doet wat niet meer hersteld kan worden.

Die laag is de agent harness, en de beslissingen die je daar neemt kunnen een grotere impact hebben op betrouwbaarheid en kosten dan de keuze van het model zelf. Dat hebben we geleerd tijdens het bouwen en draaien van TrueForge, onze open-source agent harness. Dit zijn de 10 agent harness best practices die we aanraden als je vandaag productie-agents bouwt.

Waarom de harness je rekening bepaalt

Laten me beginnen met een getal, omdat dit alles wat hieronder volgt in perspectief plaatst. We hebben DevRev's Enterprise-Bench gebruikt: 14 taken over verschillende systemen heen met uiteenlopende complexiteit die lijken op echt B2B-werk. Om een van deze taken te voltooien, moet een agent plannen, MCP-tools aanroepen in drie systemen (een CRM in Salesforce-stijl, een projecttracker in Jira-stijl en een opslag voor documenten en gespreksverslagen in Drive-stijl), de resultaten correct combineren en het antwoord op het juiste detailniveau presenteren.

Nauwkeurigheid is vrijwel gelijk. Het model bepaalt het plafond; de harness maakt het onderliggende model niet slimmer.

Wat de harness wél bepaalt, is hoeveel werk er nodig is om dat plafond te bereiken.

In deze benchmark loste TrueForge ongeveer hetzelfde aantal taken op als Claude Managed Agents, terwijl het ongeveer 62% minder tokens verbruikte en ongeveer 28% minder kostte per run. Vergeleken met deepagents was het verschil in tokens nog groter.

Dat is het deel van agent-infrastructuur dat gemakkelijk over het hoofd wordt gezien. Twee agents kunnen hetzelfde model gebruiken, toegang hebben tot dezelfde tools en dezelfde taak proberen uit te voeren, maar toch sterk verschillende uitvoeringskosten genereren.

Het verschil ontstaat door wat er rondom het model gebeurt: hoeveel context het meeneemt, welke tools het laadt, hoe het omgaat met grote responsen, wanneer het de status compact maakt en hoe efficiënt het de loop uitvoert.

Lees de volledige benchmarkmethodologie →

Vrijwel het gehele kostenverschil in deze benchmark is terug te voeren op de eerste vier best practices.

TrueForge: Open-Source Agent Harness

TrueForge is TrueFoundry's open-source, leverancierneutrale agent harness voor teams die meer controle willen over hoe hun agents in productie draaien. In plaats van de runtime te koppelen aan één enkele modelprovider, kun je met TrueForge je eigen modellen, MCP-servers en infrastructuur meenemen, terwijl het de agent-loop, tooluitvoering, contextbeheer, goedkeuringen en sandboxing afhandelt.

Waar een self-hosted agent zoals Hermes veel van de productie-infrastructuur overlaat aan de ontwikkelaar, biedt TrueForge het omringende control plane dat nodig is om agents over verschillende teams en omgevingen heen te beheren. Dit omvat gecentraliseerde MCP-toegang en credentials, human-in-the-loop goedkeuringen, sandbox-uitvoering, observabiliteit en governance.

Je kunt het lokaal uitvoeren met npx @truefoundry/trueforge of implementeren voor een team met Docker Compose of Helm.

TrueForge scheidt ook de agent-runtime van de meedellaag. Dit betekent dat teams van model kunnen wisselen of workloads naar verschillende providers kunnen routen zonder de agent zelf opnieuw te bouwen. Gekoppeld aan TrueFoundry's AI Gateway kunnen teams ook modelrouting en kostenbeheersing toepassen om te voorkomen dat dure frontier models worden ingezet voor taken die dat niet vereisen. Het resultaat is een middenweg tussen een volledig beheerde runtime en het zelf bouwen van de gehele agent-infrastructuur: een open-source agent harness met de operationele functies die nodig zijn om productie-agents op schaal te laten draaien.‍

TrueFoundry biedt ook een tweede manier om modelkosten te verlagen via AI Gateway's Auto Routing. In plaats van elke query naar een frontier model te sturen, categoriseert Auto Routing verzoeken op basis van complexiteit en stuurt ze naar verschillende modelniveaus. In de benchmark van TrueFoundry over 550 prompts verlaagde het routen tussen Haiku, Sonnet en Opus de kosten met 69% met behoud van 98% van de basiskwaliteit, terwijl de gemiddelde latentie daalde van 7,6 seconden naar 4,0 seconden. Bij verkeer dat vergelijkbaar is met productieomgevingen bereikte de totale kostenreductie 80%.

Deze twee lagen richten zich op verschillende onderdelen van de kostenberekening. TrueForge vermindert de overhead van het uitvoeren van de agent zelf, terwijl modelrouting voorkomt dat een duur model wordt gebruikt wanneer de taak dat niet vereist. Voor teams die agents op schaal draaien, kunnen beide functies belangrijker zijn dan de prijs van het model alleen.

TrueForge is open-source en heeft een MIT-licentie, terwijl TrueFoundry's AI Gateway de operationele laag toevoegt die teams nodig hebben bij de overstap van individuele agents naar productie: gecentraliseerde modeltoegang, budgetten, guardrails, credentialbeheer en geünificeerde traces.

Als je Claude Managed Agents vergelijkt met een meer configureerbare architectuur, is TrueFoundry het overwegen waard wanneer modelflexibiliteit, controle over de infrastructuur en kostenoptimalisatie van agents van belang zijn naast de agent-runtime zelf.

Een open-source alternatief voor Claude Managed Agents, tot 75% goedkoper

Draai productieklare AI-agents op je eigen infrastructuur met TrueForge, met je eigen keuze aan modellen, tools en sandbox-providers.

Bekijk op GitHub

Documentatie

Best practices voor Context Engineering

Dit is waar het grote geld te winnen valt. Context engineering is de discipline van het bepalen wat het model bij elke stap ziet, en bij een langdurig draaiende agent stapelt zich dat stap voor stap op.

1. Behandel het contextvenster als een budget, niet als een buffer

Wat er misgaat: je verbindt vijf MCP-servers, elk tool-schema wordt geladen bij het opstarten, en de agent verbruikt tientallen duizenden tokens aan definities van tools die hij nooit zal aanroepen. Elke opeenvolgende stap draagt deze gegevens mee.

Wat je moet doen: laad tool-schema's op aanvraag in plaats van vooraf. Goed beheer van de agentcontext begint vóór de eerste modelaanroep, niet pas nadat het venster vol raakt.

In TrueForge: deferred tool loading geeft de agent een lichtgewicht index en haalt het volledige schema pas op zodra de agent de specifieke tool nodig heeft.

2. Voer compactie uit, kap niet zomaar af

What er misgaat: het venster raakt vol, de harness verwijdert de oudste inhoud, en de agent vergeet stilzwijgend de instructie die je in stap drie hebt gegeven. Er verschijnt geen foutmelding. De prestaties worden gewoon slechter, en het probleem is lastig te detecteren omdat de output er nog steeds aannemelijk uitziet.

Wat je moet doen: vat oude geschiedenis samen in een gestructureerd overzicht en bewaar die samenvatting. Stel de drempelwaarde in onder het maximale limiet, zodat compactie gecontroleerd plaatsvindt in plaats van onder druk.

In TrueForge: compactie wordt geactiveerd op 80% van de contextlengte van het model en vervangt de oude geschiedenis door een gestructureerde samenvatting. Afkappen is prima voor een korte support-agent, maar werkt averechts bij een taak die meerdere uren duurt.

Een belangrijk punt om rekening mee te houden: compactie brengt een eigen risico met zich mee als beleid en regels alleen in het gesprek staan. We hebben geschreven over hoe compactie governance aantast en waarom handhaving buiten het contextvenster hoort te liggen.

3. Sla grote tool-responsen extern op in plaats van ze in te sluiten

Wat er misgaat: een tool geeft een JSON-payload van 200 KB terug, die volledig in het contextvenster belandt, terwijl de agent slechts drie velden daarvan nodig had.

Wat je moet doen: schrijf de payload weg naar een plek waar de agent toegang toe heeft en geef een referentie door in plaats van de inhoud zelf.

In TrueForge: large tool response offloading schrijft de respons naar een bestand in de sandbox en vervangt deze door een pad en een voorbeeldweergave. Code Mode gaat nog een stap verder en laat de agent meerdere tool-calls combineren binnen één sandbox-script, zodat alleen het geprinte resultaat in de context komt. Vijf interacties worden zo teruggebracht tot één samenvatting.

4. Geef subagents schone context en haal alleen het resultaat op

Wat er misgaat: een subagent erft de volledige thread van de parent-agent, voert de taak uit en stuurt de gehele redenering terug naar de parent-context. Hierdoor betaal je dubbel voor dezelfde geschiedenis en raakt de hoofdthread vervuild.

Wat je moet doen: delegatie moet de context van de parent verkleinen, niet vergroten.

In TrueForge: subagents draaien met een eigen schone context en sturen alleen het eindresultaat terug.

Probeer het zelf: npx @truefoundry/trueforge voert een harness uit met al deze vier opties standaard ingeschakeld, lokaal, in ongeveer een minuut. Geef het een star op GitHub.

Uitvoering en Veiligheid

5. Maak van de sandbox een tool, niet een wrapper

Wat er misgaat: de harness verpakt elke sessie in een container, ongeacht of de agent ooit code uitvoert. Je betaalt voor containertijd bij gesprekken die alleen uit tekst bestonden, en één server kan aanzienlijk minder gelijktijdige agents verwerken.

Wat je moet doen: zet de sandbox pas in wanneer de agent daadwerkelijk iets moet uitvoeren. Sandboxing voor agents draait om het beperken van de risicozone (blast radius), en je krijgt dezelfde isolatie zonder dat je er bij elke stap voor betaalt.

In TrueForge: is de sandbox een tool, die pas gestart wordt wanneer de agent code moet uitvoeren. Daardoor kan één server veel agents afhandelen en blijven stappen die geen code gebruiken goedkoop. Sandbox-providers kun je naar eigen keuze koppelen.

De dieperliggende onderbouwing voor modellen laten uitvoeren zonder ze vrije loop te geven is waardevol om te lezen als je dit vanaf de grond opbouwt.

6. Beveilig alleen de acties die je niet ongedaan kunt maken

Wat er misgaat: teams kiezen vaak voor een van twee uitersten. Of niets is beveiligd en een agent verwijdert uiteindelijk iets, of alles is beveiligd en een menselijke gebruiker moet veertig keer per uur op goedkeuren klikken tot die stop met lezen.

Wat je moet doen: stel goedkeuring verplicht op basis van onomkeerbaarheid. Een e-mail versturen, schrijven naar productie, geld uitgeven, of iets verwijderen. Leesacties en concepten kunnen vrij uitgevoerd worden. Implementeer een nalevingsvereiste niet door het in de system prompt te beschrijven in de hoop dat het goed gaat; een prompt is een suggestie, waar guardrails die elke tool-call controleren een daadwerkelijke beveiliging zijn.

In TrueForge: de kernserver pauzeert de run en wacht op goedkeuring bij gevoelige acties voordat de aanroep wordt verzonden, in plaats van achteraf.

Waar die goedkeuringspoort zich bevindt is net zo belangrijk als het bestaan ervan. Dit hebben we behandeld in het ontwerpen van MCP-tool-goedkeuringen bij de gateway-grens.

7. Zorg dat sessies herverbindingen overleven

Wat er misgaat: een laptop gaat in slaapstand, een loadbalancer vernieuwt een verbinding, en veertig minuten aan agent-werk is verdwenen. Bij taken die een uur duren, is dit geen uitzonderingsgeval meer.

Wat je moet doen: bewaar de sessiestatus zodat een verbroken verbinding kan worden hervat in plaats van opnieuw te moeten starten.

In TrueForge: sessies blijven behouden bij herverbindingen en herstarts. Hervatbaarheid (resumability) is een van die eigenschappen waar niemand om vraagt tijdens het ontwerp, maar die iedereen in de tweede week nodig heeft.

Operations en Governance

8. Instrumenteer de loop, niet alleen het model

Wat er misgaat: je hebt inzicht in het aantal tokens en de latentie per modelaanroep, maar geen idee welke specifieke stap in een proces van 60 stappen misging. Foutopsporing verandert in archeologie.

Wat je moet doen: genereer gestructureerde events voor elke stap, zodat een run te lezen is als een tijdlijn in plaats van een muur van logbestanden. Controleer of de loop zelf observeerbaar is voordat je onder druk problemen moet oplossen.

In TrueForge: elke stap wordt direct gestreamd terwijl deze plaatsvindt, en het agent events runtime contract is gepubliceerd zodat je eigen tooling dit kan verwerken.

De benadering in loop engineering is hier nuttig: de loop is de middleware, dus behandel het als infrastructuur.

9. Houd het model uitwisselbaar

Wat er misgaat: de agent is geschreven voor de SDK en specifieke eigenschappen van één provider. Er komt een goedkoper of beter model beschikbaar, maar overstappen vereist het herschrijven van de code, dus stap je niet over.

Wat je moet doen: communiceer met modellen via OpenAI-compatibele interfaces en houd provider-specifieke logica buiten de agent-architectuur.

In TrueForge: modellen, MCP-servers en sandbox-providers zijn allemaal naar eigen keuze te koppelen via open interfaces. Dit is geen theoretische waarde. In dezelfde benchmark behaalde TrueForge op GLM-5.2 in plaats van Opus 4.8 dezelfde ~11 van de 14 taken voor $2,90 per run in plaats van $8,50. Die besparing is alleen mogelijk als overstappen een kwestie van een configuratiewijziging is.

10. Centraliseer governance zodra je meer dan een paar agents draait

Wat er misgaat: elk team beheert eigen API-sleutels en MCP-credentials. Niemand kan uitgaven limiteren, PII-maskering is inconsistent, en het beantwoorden van een audit-vraag betekent het samenvoegen van logbestanden uit negen verschillende diensten.

Wat je moet doen: plaats een gateway tussen je agents en alles wat ze aanroepen.

In TrueForge: dit is bewust niet de taak van de harness. Self-hosted beheer je je eigen sleutels zelf, wat werkt totdat je veel agents draait. Op dat punt koppel je het aan TrueFoundry's AI Gateway, die 1.000+ LLM's achter één OpenAI-compatibele API plaatst met slechts 3 tot 4 ms extra latentie en 350+ RPS op een enkele vCPU, inclusief RBAC, budgetten, guardrails, rotatie van credentials en OpenTelemetry-traces naar Grafana, Datadog of Prometheus.

Draai je meer dan een paar agents? Bekijk hoe de AI Gateway ze centraal beheert, of boek een demonstratie als je wilt zien hoe dit aansluit op jouw omgeving.

Hoe TrueForge hiermee omgaat

Negen van de tien zitten in de harness. De tiende bewust niet, omdat een harness die ook als control plane wil fungeren meestal in beide tekortschiet.

Vier Anti-Patterns

Een bestaande loop opnieuw bouwen. Als je plan-act-observe vanaf nul aan het schrijven bent, controleer dan of een harness dit al biedt. Het ontwerpen van een agent harness is alleen de moeite waard als je probleem echt uniek is.

Proberen regels af te dwingen via prompts. Nalevingsstappen, budgetlimieten en goedkeuringspoorten horen thuis in code of bij een gateway. Een model dat vriendelijk gevraagd kan worden om iets te doen, kan ook worden overtuigd om regels te omzeilen.

Alles in een sandbox draaien. Isolatie bij elke stap kost geld en levert niets op bij stappen die nooit code uitvoeren.

Het model meten in plaats van de run. Het aantal tokens per aanroep kan er goed uitzien terwijl de totale kosten per voltooide taak ongemerkt verdrievoudigen. Meet de gehele run.

FAQ

V: Wat zijn agent harness best practices?

A: De belangrijkste hebben betrekking op contextbeheer: laad tool-schema's op aanvraag, voer compactie uit op de geschiedenis in plaats van deze af te kappen, sla grote tool-responsen op in bestanden en houd de context van subagents gescheiden van de parent. Daarnaast: zet sandboxes alleen in wanneer code wordt uitgevoerd, beveilig onomkeerbare acties, bewaar sessies bij herverbindingen en genereer gestructureerde events voor elke stap. In onze benchmark zorgden deze beslissingen voor een verschil van meer dan 4x in tokens per run op identieke taken.

V: Hoe voorkom je dat een agent bij een lange taak zonder context komt te zitten?

A: Door compactie, niet door afkappen. Vat oudere geschiedenis samen in een gestructureerd overzicht bij een bepaalde drempelwaarde, rond 80% van de contextlengte van het model, zodat de agent de rode draad vasthoudt in plaats van deze stilzwijgend te verliezen. Combineer dat met deferred tool loading en response offloading zodat het venster in de eerste plaats minder snel volraakt.

V: Moet je elke agent-sessie in een sandbox draaien?

A: Nee. Plaats de code-uitvoering in een sandbox, niet de hele sessie. Het openhouden van een container voor een heel gesprek kost geld bij elke stap die geen code uitvoert, en het beperkt het aantal agents dat één server kan verwerken. On-demand provisioning biedt dezelfde isolatie tegen een fractie van de kosten.

V: Kan ik een agent harness in mijn eigen VPC of on-premise draaien?

A: Ja, met elke self-hosted optie. TrueForge draait lokaal vanuit een enkel npx commando, of via Docker Compose en Helm voor een team-implementatie met Postgres, Redis, replica's en OIDC-login. Het beheerde platform van TrueFoundry kan ook self-hosted, on-premise, air-gapped of hybride worden uitgevoerd, zodat er geen data je domein verlaat.

V: Ondersteunt TrueFoundry MCP en agents uit andere frameworks?

A: Ja. Het platform bevat een MCP Gateway, Agent Gateway en een registry met toegangsbeheer op tool-niveau. Agents gebouwd op LangGraph, CrewAI, AutoGen of een eigen framework kunnen via dezelfde laag worden beheerd, dus deze practices verplichten je niet tot het overstappen op één specifieke stack.

Gerelateerde artikelen

• Agent Harness vs Agent Framework: Wat is daadwerkelijk het verschil?: het verschil tussen deze categorieën uitgelicht
• Context Engineering: Het ontwerpen van wat je AI-agent ziet: een diepere duik in best practices 1 tot en met 4
• Agent Sandboxes uitgelicht: waarom de sandbox een tool is, geen wrapper
• Loop Engineering: De loop is de nieuwe middleware: het behandelen van de runtime als infrastructuur
• TrueForge vs Claude Managed Agents: de volledige Enterprise-Bench methodologie en resultaten

Conclusie

Agent harness best practices komen neer op één gewoonte: bepaal bewust wat het model ziet en wat het mag doen, en meet vervolgens de gehele run in plaats van de individuele aanroep. Teams die dit toepassen, houden agents over die een kwart kosten en falen op manieren die goed te diagnosticeren zijn.

Je hoeft ons niet op onze blauwe ogen te geloven als het om de cijfers gaat. TrueForge heeft een MIT-licentie en de benchmarkmethodologie is openbaar, dus je kunt deze uitvoeren op je eigen taken.

npx @truefoundry/trueforge om het in ongeveer een minuut te proberen, lees de documentatie, of boek een demonstratie als je wilt zien hoe dit wordt toegepast op jouw stack.

‍