Het probleem van agent wildgroei: waarom ondernemingen controle nodig hebben voor autonomie

Technologieleiders binnen de enterprise kennen dit patroon al.

SaaS wildgroei gaf zakelijke teams snelheid, maar zorgde voor duplicatie, shadow IT, toegangsrisico's en complexiteit bij leveranciers. API wildgroei verbeterde hergebruik, maar introduceerde onbeheerde eindpunten en inconsistente controles. Cloud wildgroei gaf ontwikkelaars flexibiliteit, maar dwong ondernemingen vervolgens om opnieuw discipline op te bouwen rond identiteit, kosten, compliance en observability.

AI-agents zijn de volgende versie van dit probleem.

Het verschil is dat agents niet zomaar applicaties, API's of infrastructuur zijn. Het zijn software-actoren. Ze kunnen redeneren, tools gebruiken, toegang krijgen tot data, workflows in gang zetten en handelen namens gebruikers of bedrijfsprocessen.

Dat maakt agent wildgroei complexer dan eerdere golven van enterprise-technologie. Een SaaS-applicatie slaat data op en verwerkt deze. Een API stelt een functionaliteit beschikbaar. Een cloudservice draait infrastructuur. Een agent kan alle drie coördineren.

De vraag voor ondernemingen is niet langer of ze agents gaan bouwen. Dat gaan ze doen. De echte vraag is of ze governance toepassen voordat de agents zich vermenigvuldigen.

Agents verspreiden zich sneller dan governance

Agents zijn eenvoudig te prototypen.

Een team kan een model verbinden met een framework, retrieval toevoegen, een paar tools beschikbaar stellen en binnen enkele dagen een workflow automatiseren. De eerste resultaten zijn indrukwekkend: een support-agent die tickets samenvat, een sales-agent die account-briefings voorbereidt, een engineering-agent die code beoordeelt, of een operations-agent die incidenten trieert.

Het gemak waarmee ze gemaakt kunnen worden, is precies de reden waarom wildgroei waarschijnlijk is.

Elke afdeling wil zijn eigen agents. Elk productteam wil ingebouwde agents. Elk engineeringteam wil coding- en operationele agents testen. Elk datateam wil analytische agents verkennen. Dit is het natuurlijke resultaat van gedemocratiseerde AI-ontwikkeling.

De markt beweegt zich al in die richting. Forrester merkt op dat AI-platformen zich toenemend centreren rond agentic AI, waarbij leveranciers de ontwikkeling en uitrol van AI-assistenten, agents en AI-applicaties ondersteunen. Maar dezelfde verschuiving brengt een uitdaging voor productie met zich mee: enterprise-grade AI vereist nog steeds observability, continue governance, compliance, lifecycle-management en kostenoptimalisatie.

Die spanning definieert de volgende fase van enterprise AI: de mogelijkheid om agents te bouwen verspreidt zich sneller dan het operationele model om ze te beheren.

Waarom agent wildgroei anders is

Agents combineren meerdere gedrags-lagen.

Een enkele agent kan een foundation model, prompts, systeeminstructies, retrieval pipelines, API's, MCP-servers, geheugen, gebruikersidentiteit, machtigingen, menselijke goedkeuringspaden, traces, evaluatie-datasets en kostenbeleid omvatten.

Dat betekent dat het risico niet geïsoleerd is tot één onderdeel. Het verplaatst zich over het gehele uitvoeringspad.

Een agent kan falen omdat het model hallucineerde, de prompt zwak was, de opgehaalde context verkeerd was, het tool-schema ambigu was, de gebruiker te veel machtigingen had, de workflow een goedkeuringsstap miste, of omdat retry-logica zorgde voor uit de hand gelopen kosten.

Traditionele software wordt beheerd door controle op code, toegang en uitrol. Agentic systemen vereisen controle over gedrag.

Gartner definieert AI-agents als autonome of semiautonome software-entiteiten die waarnemen, beslissingen nemen, acties ondernemen en doelen bereiken in digitale of fysieke omgevingen. Het merkt ook op dat veel huidige op LLM gebaseerde agents dichter bij door LLM uitbreidde workflows blijven dan volledig adaptieve systemen, en dat de gereedheid aanzienlijk varieert per agenttype.

Dit is van belang omdat de markt de taal van agents al gebruikt voordat veel systemen de operationele volwassenheid van agents hebben. Zelfs voordat agents volledig autonoom worden, zijn ze al complex genoeg om governance-gaten te creëren.

Het eerste gat: inventarisatie

Het eerste symptoom van agent wildgroei zal een gebrek aan inventarisatie zijn.

De meeste ondernemingen weten aanvankelijk niet hoeveel agents er bestaan, wie de eigenaar is, welke modellen ze gebruiken, tot welke data ze toegang hebben, welke tools ze kunnen aanroepen of wat ze kosten.

In het SaaS-tijdperk was de inventarisatievraag: "Welke applicaties gebruiken werknemers?"

In het agent-tijdperk wordt de inventarisatievraag:

• Welke agents bestaan er?
• Wie is de eigenaar van elke agent?
• Wat is het doel en het autonomieniveau?
• Welke gebruikers of systemen kunnen de agent aanroepen?
• Tot welke modellen, databronnen en tools heeft de agent toegang?
• Welke acties kan de agent uitvoeren?
• Welk beleid is van toepassing?
• Wat kost het per taak of workflow?
• Wanneer is de agent voor het laatst geëvalueerd?

Dit is geen catalogisering. Het is het fundament voor verantwoordelijkheid.

Forrester’s AI Governance Solutions Landscape identificeert AI-inventarisatie als een belangrijk pijnpunt en stelt dat organisaties zichtbaarheid en controle over AI-assets zoeken om te voldoen aan zakelijke, regelgevende en verantwoorde AI-doelstellingen.

Agents maken dat inventarisatieprobleem urgenter omdat het geen passieve assets zijn. Ze handelen.

Toegang tot tools is waar risico reëel wordt

Een agent die content stelt, draagt één risiconiveau. Een agent die tools kan aanroepen, draagt een heel ander risiconiveau.

Op het moment dat een agent een database kan bevragen, een CRM kan bijwerken, een workflow kan starten, een bericht kan sturen, infrastructuur kan wijzigen, een ticket kan aanmaken of code kan uitvoeren, wordt deze onderdeel van het beheersoppervlak van de onderneming.

Standaarden zoals het Model Context Protocol maken tool-connectiviteit eenvoudiger. Maar eenvoudigere connectiviteit zorgt niet automatisch voor enterprise-readiness.

Gartner’s MCP Gateway-onderzoek merkt op dat ondernemingen die MCP adopteren, gaten hebben gevonden rond registratie, vindbaarheid, afgedwongen authenticatie, autorisatie, accounting en auditing. Het stelt ook dat ondernemingen een manier nodig hebben om potentieel duizenden MCP-servers centraal te registreren, te ontdekken en te observeren.

De bredere les is simpel: elke tool die een agent kan gebruiken moet geregistreerd, geautoriseerd, observeerbaar en auditeerbaar zijn.

De toekomst kan niet zijn "agents verbonden met alles". Het moet zijn "agents verbonden met goedgekeurde functionaliteiten via beheerde controlepunten".

De kostencurve zal teams verrassen

Agent wildgroei zal ook kostenrisico's met zich meebrengen.

Een chatbot-interactie kan een of enkele model-calls omvatten. Een agentic workflow kan planning, retrieval, tool-selectie, tool-uitvoering, validatie, retries, samenvatting en de uiteindelijke responsgeneratie omvatten. Eén verzoek van een gebruiker kan veranderen in een lange keten van model-calls en tool-calls.

Dit is waarom de economie van agents teams kan verrassen. Gartner merkt op dat agentic workflows een enkel verzoek van een gebruiker kunnen veranderen in tientallen of honderden LLM-calls, vooral wanneer agents plannen, tools gebruiken, het opnieuw proberen of in een loop raken. Zonder beleid en guardrails houden agents van nature geen rekening met de kosten van die acties.

Dat doorbreekt de eenvoud van rapportage op token-niveau.

De betere metriek is niet alleen kosten per token. Het zijn kosten per resultaat:

‍

‍

Het kostenrisico is niet theoretisch. Gartner voorspelt dat tot en met 2028 minstens 50% van de GenAI-projecten de gebudgetteerde kosten zal overschrijden vanwege slechte architectuurkeuzes en een gebrek aan operationele knowhow. Het voorspelt ook dat inference tot en met 2028 verantwoordelijk zal zijn voor minstens 70% van de totale lifetime kosten van een model.

Agent wildgroei zal dit risico vergroten omdat uitgaven afkomstig zijn van vele teams, workflows, tools en modellen. Zonder runtime kostencontroles zullen leiders de rekening pas ontdekken nadat de architectuur al gefragmenteerd is.

Observability moet evolueren naar verantwoording

Traditionele observability vertelt teams of systemen beschikbaar, traag, verzadigd of falend zijn.

Agent observability moet uitleggen waarom de agent zich gedroeg zoals hij deed.

Voor elke belangrijke actie van een agent moeten teams het oorspronkelijke doel weten, evenals de prompt-versie, het gebruikte model, de opgehaalde context, de geselecteerde tool, de meegegeven argumenten, de toegepaste guardrails, de genomen beleidsbeslissing, de verbruikte tokens, de latency per stap, de kosten per stap, de status van menselijke goedkeuring en het uiteindelijke resultaat.

Gartner’s Market Guide for AI Evaluation and Observability Platforms stelt dat niet-determinisme in GenAI en agentic AI het moeilijk maakt om betrouwbaarheid en vertrouwen te meten en te verbeteren. Het definieert deze platformen als tools die evaluaties combineren met logs, metrieken en traces om de betrouwbaarheid en afstemming te verbeteren.

Dit is belangrijk omdat het falen van een agent niet altijd een fout in de infrastructuur is.

Een agent kan beschikbaar zijn en toch onjuist handelen. Hij kan snel zijn en toch onveilig. Hij kan een taak voltooien en toch het beleid schenden. Hij kan een toegestane tool aanroepen om de verkeerde reden.

In het agent-tijdperk is observability niet alleen voor debugging. Het is voor verantwoording.

Evaluatie kan niet handmatig blijven

Veel teams evalueren AI-systemen nog steeds via handmatige beoordeling, ad-hoc testen of demo-kwaliteit. Dat schaalt niet wanneer tientallen of honderden agents veranderen van prompts, modellen, tools en contextbronnen.

Traditionele testen werken goed wanneer de output deterministisch is. De output van agents is probabilistisch en contextafhankelijk. De vraag is niet altijd of er één exact antwoord is geproduceerd. Het gaat erom of de respons of actie goed genoeg, veilig genoeg, voldoende onderbouwd en voldoende afgestemd was voor het beoogde gebruik.

De evaluatiekloof is nog steeds groot. Gartner meldt dat momenteel slechts 18% van de respondenten AI-evaluatietools gebruikt om de output en het gedrag van custom-built AI-agents te testen. Dat is van belang omdat, naarmate agents zich vermenigvuldigen, handmatige beoordeling en vertrouwen op basis van demo's niet zullen schalen.

Ondernemingen die agents opschalen, hebben continue evaluatie nodig over taakvoltooiing, grounding, tool-gebruik, veiligheid, beveiliging, naleving van het beleid, kosten en betrouwbaarheid.

Het kritieke patroon is een feedbackloop: productie-traces worden evaluatie-datasets, fouten worden regressietesten, en menselijke correcties verbeteren toekomstig gedrag.

Zonder die loop leert elk team in isolatie, en wordt agent wildgroei onbeheersbaar.

Governance moet uitvoerbaar worden

AI-governance is vaak behandeld als een documentatie- en beoordelingsfunctie: modelkaarten, risicobeoordelingen, compliance-checklists, goedkeuringscomités en auditbewijzen.

Dat blijft noodzakelijk, maar het is niet voldoende voor agents.

Agents nemen beslissingen tijdens runtime. Ze komen veranderende context tegen, gebruiken tools, maken kosten en hebben dynamisch interactie met systemen. Statische goedkeuringsprocessen kunnen niet elke actie voorzien die een agent kan proberen uit te voeren.

Forrester’s Wave on AI Governance Solutions benadrukt dat governance-tools ondernemingen helpen om voorbij de beperkingen van 'governance-via-spreadsheets' en comités te stappen, naarmate ze AI-use-cases, eigenaarschap, risicobeoordelingen, compliance-audits en AI-vertrouwen van derden opschalen.

Governance moet niet worden gezien als een rem op AI-adoptie. Forrester meldt dat 79% van de AI-besluitvormers het erover eens is dat AI-governance hun organisaties helpt om zich snel aan te passen aan veranderende markt- en regelgevingsomstandigheden. Het agent-tijdperk zal testen of die governance kan veranderen van beleidsintentie naar runtime controle.

Agentic AI drieft dit verder op. Governance moet uitvoerbaar worden.

‍

Dit is het verschil tussen governance als toezicht en governance als infrastructuur.

Agent wildgroei wordt niet opgelost door elk team te vragen meer formulieren in te vullen. Het wordt opgelost door het beheerde pad eenvoudiger te maken dan het ongecontroleerde pad.

De leiderschapsvraag: hoeveel autonomie is gepast?

De belangrijkste beslissing over agents voor een onderneming is niet welk model of framework er gebruikt moet worden. Het is hoeveel autonomie er toegestaan wordt.

Een agent voor het samenvatten van documenten, een sales-researchagent, een code-generatie-agent, een financiële goedkeuringsagent en een agent voor infrastructuurherstel zouden niet dezelfde bevoegdheid moeten hebben. Elk draagt een ander niveau van zakelijk, beveiligings-, compliance- en kostenrisico met zich mee.

Het juiste pad is progressieve autonomie: start met afgebakende use-cases, instrumenteer alles, evalueer continu en breid de bevoegdheid alleen uit waar de agent bewijst betrouwbaar, kosteneffectief en bestuurbaar te zijn.

Voordat agents worden opgeschaald, moeten leiderschapsteams het volgende vragen:

Als het antwoord op de meeste van deze vragen 'nee' is, is de organisatie misschien klaar voor het experimenteren met agents, maar niet voor een brede uitrol van agents.

‍

Wat leiders nu moeten doen

Agent wildgroei is niet onvermijdelijk, maar het voorkomen ervan vereist vroege architectuurbeslissingen.

Ten eerste, creëer een inventarisatiemodel voor agents, tools, modellen, prompts en workflows. Eigenaarschap, doel, autonomieniveau, datatoegang, toegang tot tools en de evaluatiestatus moeten vanaf het begin zichtbaar zijn.

Ten tweede, centraliseer toegang tot modellen. Laat niet elk team zijn eigen credentials, providerlogica, routing, budgetten en logs beheren.

Ten derde, beheer toegang tot tools voordat het onbeheersbaar wordt. Agents moeten niet rechtstreeks verbinden met willekeurige tools. Tools moeten geregistreerd, geautoriseerd, gemonitord en geauditeerd worden.

Ten vierde, maak observability en evaluatie verplicht voor agents in productie. Elke belangrijke agent moet traces genereren die model-calls, context, tool-gebruik, beleidsbeslissingen, kosten en uiteindelijke resultaten uitleggen.

Ten vijfde, definieer autonomieniveaus op basis van risico. Agents met een laag risico kunnen sneller bewegen. Agents met een hoog risico hebben goedkeuringen, strengere guardrails en een sterkere auditeerbaarheid nodig.

Tot slot, meet de economie van agents op basis van resultaat. Kosten per token zijn niet genoeg. Leiders hebben kosten per taak, kosten per workflow, kosten per beslissing en kosten per bedrijfsresultaat nodig.

Achtenswaardige gedachte

Agents worden een belangrijk onderdeel van enterprise-software. Dat staat niet ter discussie.

De discussie is of ondernemingen agents laten verspreiden zoals SaaS, API's en cloud dat ooit deden: snel, nuttig, en vervolgens chaotisch.

Agent wildgroei is te voorkomen, maar alleen als leiders agents zien voor wat ze zijn: actie-nemende software-entiteiten die identiteit, beleid, observability, kostenbeheersing en governance vereisen.

De toekomst van enterprise AI zal niet worden gedefinieerd door het aantal agents dat een organisatie lanceert.

Het zal worden gedefinieerd door hoe veilig die agents kunnen handelen.

Autonomie zal waarde creëren. Controle zal het schaalbaar maken.