Van AI-chaos naar controle: Een gesprek over Agentic AI met Tesseract Talks

Nu bedrijven overstappen van het experimenteren met large language models naar het in productie nemen van agentic AI-systemen, ontstaat er een nieuwe reeks uitdagingen. Teams bewegen sneller dan ooit, maar vaak in verschillende richtingen. Modellen, tools, frameworks en agents vermenigvuldigen zich, en met die groei komt fragmentatie.

In een recente aflevering van Tesseract Talks ging John K. Thompson in gesprek met Nikunj Bajaj, co-founder en CEO van TrueFoundry, om te onderzoeken wat er echt voor nodig is om agentic AI op te schalen binnen grote organisaties.

Hier zijn enkele van de belangrijkste inzichten uit het gesprek.

Van eenvoudige LLM-apps naar complexe Agentic-systemen

AI-systemen zijn drastisch geëvolueerd, vooral in het afgelopen jaar.

Wat voorheen een enkele LLM-call met een tool was, is nu veranderd in een netwerk van componenten die samenwerken. Agentic-systemen van productiekwaliteit combineren doorgaans:

• Meerdere LLMs (vaak verspreid over verschillende leveranciers en clouds)
• Model Context Protocols (MCPs) en tools
• Guardrails voor veiligheid, privacy en compliance
• Prompts en orchestratielogica
• Andere agents, hiërarchisch samengesteld

Zoals Nikunj uitlegde, is deze complexiteit niet toevallig; het is een natuurlijk resultaat van agents die capabeler worden. Maar het betekent ook dat verschillende teams binnen dezelfde onderneming agents op heel verschillende manieren bouwen, met gebruik van verschillende stacks en frameworks.

Die flexibiliteit helpt teams om snel te bewegen. Op schaal zorgt het echter ook voor chaos.

De echte enterprise-uitdaging: Snelheid en controle

Ondernemingen staan voor de uitdaging om twee concurrerende krachten in evenwicht te brengen: teams de autonomie geven om te experimenteren en snel waarde te leveren, terwijl tegelijkertijd een organisatiebrede consistentie wordt gehandhaafd rond beveiliging, governance en kosten. Nikunj formuleerde dit als "gefederderde uitvoering met gecentraliseerde governance".

In het begin, wanneer teams klein zijn, werkt autonomie goed. Maar naarmate organisaties groeien, worden beleid, budgetten en toezicht essentieel. Menselijke werknemers werken met flexibiliteit, maar binnen een gestructureerd systeem. Agentic AI heeft hetzelfde nodig.

Agentic AI heeft hetzelfde nodig.

Dit is waar het idee van een AI Gateway om de hoek komt kijken. Volgens Nikunj is de gateway veel verder geëvolueerd dan een eenvoudige proxy voor het routen van requests tussen modellen. Tegenwoordig wordt het:

• Eén centraal toegangspunt voor LLMs, MCPs, agents, prompts en guardrails
• Een normalisatielaag over cloudproviders en modelleveranciers heen
• Een plek om access control, budgetlimieten en compliancebeleid af te dwingen
• Een fundament voor observability en debugging

Kortom, het wordt het hoofdkwartier voor agents, het control plane dat organisaties tot nu toe hebben gemist. 

Hoe wij kijken naar de rol van TrueFoundry

Bij TrueFoundry zien we agentic AI niet als een reeks losse projecten. We zien het als een langetermijntransformatie. Zoals Nikunj uitlegde, is onze focus gericht op het helpen van bedrijven om:

• Hun AI-stack toekomstbestendig te houden naarmate het ecosysteem zich verder ontwikkelt
• Nieuwe agentic-functionaliteiten te integreren in bestaande infrastructuur
• De valse keuze te vermijden tussen alles zelf bouwen of starre tools kopen

Door het bieden van een flexibel, API-gedreven platform kunnen teams voortbouwen op een sterk fundament en sneller bewegen zonder de controle te verliezen.

Zoals Nikunj het samenvatte: "Agents hebben flexibiliteit nodig om te handelen. Ondernemingen hebben een hoofdkwartier nodig om hen aan te sturen."