Agent Gateway Series (Deel 2 van 7) | Service Registry voor het Agentic Tijdperk

Gebouwd voor snelheid: ~10ms latentie, zelfs onder belasting
De razendsnelle manier om je modellen te bouwen, volgen en implementeren!
- Verwerkt 350+ RPS op slechts 1 vCPU — geen tuning nodig
- Productieklaar met volledige enterprise-ondersteuning
In een microservices-architectuur gebruiken we DNS om services te vinden. Als ik de billing service nodig heb, aangeroepen via billing.svc.cluster.local. Het is eenvoudig omdat de relatie statisch is: Service A roept Service B aan.
In een Agentic Architecture zijn relaties dynamisch. Je wilt niet dat je "Manager Agent" een hardcoded verbinding heeft met finance-agent-v1. Je wilt dat deze vraagt: "Vind een capability die de omzet van Q3 kan opvragen."
Soms is die capability een Tool (een directe SQL-query via een MCP Server).
Soms is die capability een andere Agent (een reasoning engine die de SQL-output analyseert).
Om dit op te lossen, introduceert TrueFoundry de Unified MCP & Agent Registry. Het is één enkele catalogus die Tools en Agents behandelt als ontdekbare, interoperabele assets.
1. De Unified Abstraction Layer
De AI agent registry fungeert als een eenvormige abstractielaag. Het verwerkt uiteenlopende resources—Python-scripts, LangGraph agents, Postgres Databases, SaaS API's—en projecteert ze allemaal als gestandaardiseerde Capabilities.
Voor de orchestrator zien een "Database" en een "Junior Analyst Agent" er identiek uit: het zijn beide simpelweg endpoints die een JSON schema accepteren en een resultaat retourneren.

Fig 1: Agent Registry Entry Datamodel
2. Het "Agent-as-a-Tool" Paradigma (via MCP)
De grootste barrière voor multi-agent samenwerking is het verschil in interfaces. Een LangGraph agent spreekt "State Updates"; een CrewAI agent spreekt "Tasks."
TrueFoundry meent dit te standaardiseren met behulp van het Model Context Protocol (MCP).
Wanneer je een agent registreert bij de Gateway, wikkelt de Registry deze automatisch in een MCP Interface. Dit betekent dat je geavanceerde "Financial Analyst Agent" er voor de rest van het systeem precies zo uitziet als een standaard functie-aanroep.
- Interne Realiteit: Een complexe Python agent met geheugen, planning en 3 sub-agents.
- Externe Interface: Een MCP Tool definitie.
Hierdoor kan een "Manager Agent" net zo gemakkelijk een "Sub-Agent" aanroepen als een Calculator—wat orchestratie vereenvoudigt tot één enkel protocol.

Fig 2: Agent-as-a-tool Voorbeeld
3. Semantische Discovery: Capability Vinden, Niet Alleen Identiteit
Hoe weet een agent welke tool hij moet gebruiken? Hij zou de naam niet hoeven te kennen.
De Registry gebruikt Vector Embeddings om de intentie van natuurlijke taal te koppelen aan technische capabilities.
- Agent Intentie: "Ik moet controleren of de server gezond is."
- Registry Query: Scant de beschrijvingen van alle geregistreerde MCP Servers en Agents.
- Semantische Match:
- prometheus-mcp (Tool): "Query metrics from Prometheus" (Score: 0.92)
- sre-bot-v1 (Agent): "Diagnose and fix infrastructure issues" (Score: 0.88)
De Gateway retourneert beide opties. De aanroepende agent kan vervolgens beslissen: Heb ik een ruwe metric nodig (Tool), of een diagnose (Agent)?
4. Trust-Based Routing: "Haal de Geverifieerde Expert Erbij"
In een gedecentraliseerde onderneming heb je mogelijk vijf verschillende "Coding Agents" die door verschillende teams zijn geïmplementeerd. Welke moet je gebruiken?
Een statische registry zou ze simpelweg allemaal opsommen. De TrueFoundry Registry is stateful. Het maakt verbinding met de ai gateway observability laag om
de live prestaties van elke asset te volgen, inclusief succespercentages, latency en evaluatiescores.
- coder-agent:v1 (Succespercentage: 88%, Latency: 2s)
- coder-agent:v2-canary (Succespercentage: 95%, Latency: 5s)
Je kunt Routing Policies rechtstreeks in de Registry configureren:
"Stuur voor productiecode-wijzigingen ALLEEN naar agents met >90% Faithfulness scores op de meest recente Eval run."
Dit zorgt ervoor dat je orchestratielaag niet alleen verbinding maakt met beschikbare agents, maar met competente agents.
5. Topologiecontrole: De Organisatiegrafiek Firewall
Wanneer je opschaalt naar honderden agents en duizenden MCP tools, riskeer je een "Spaghetti Mesh" waarin elke agent elke tool kan aanroepen. Dit is een nachtmerrie op het gebied van beveiliging.
De Registry dwingt Graph Topology af. Het fungeert als de "Organisatiegrafiek" voor je digitale personeel.
- Regel: De Public-Support-Bot mag de Documentation-MCP aanroepen.
- Regel: De Public-Support-Bot krijgt GEEN toegang tot de Payroll-Agent.
Deze controle vindt plaats op de Discovery Layer. Wanneer de Support Bot vraagt "Wie kan mij helpen met de salarisadministratie?", retourneert de Registry simpelweg "Geen resultaten gevonden." Je kunt niet aanvallen wat je niet kunt zien.
Conclusie
De Unified MCP & Agent Registry is de ruggengraat van de Cognitive Enterprise. Door Agents en Tools te behandelen als gelijkwaardige, ontdekbare entiteiten—en ze te omhullen met een eenduidige beveiligings- en observabilitylaag—stelt TrueFoundry je in staat om complexe, betrouwbare workflows samen te stellen uit uiteenlopende bouwstenen.
TrueFoundry AI Gateway levert een latentie van ~3–4 ms, verwerkt 350+ RPS op 1 vCPU, schaalt moeiteloos horizontaal en is klaar voor productie, terwijl LiteLLM last heeft van hoge latentie, moeite heeft boven een gemiddeld aantal RPS, geen ingebouwde schaling heeft en het meest geschikt is voor lichte workloads of prototypes.















.png)

.webp)



.webp)








.webp)





