Wir stellen das Agent Gateway vor: Die einheitliche Steuerungsebene für Agenten in der Produktion

Jedes Unternehmen, das mit KI-Agenten experimentiert, stößt auf dasselbe Hindernis: Die Anbindung von Agenten an Tools ist einfach, doch die Kontrolle, Absicherung und Überwachung dieser Interaktionen im großen Maßstab ist mit der heutigen Infrastruktur nahezu unmöglich.

Sie können einen brillanten Agenten entwickeln.
Sie können leistungsstarke Tools bereitstellen.
Sie können MCP- oder A2A-basierte Systeme miteinander vernetzen.

Doch sobald Agenten beginnen, mehrstufige Workflows zu orchestrieren, externe APIs aufzurufen, andere Agenten zu starten oder lang laufende Aufgaben auszulösen, stoßen Sie plötzlich auf Probleme, für die kein API-Gateway oder Reverse-Proxy je konzipiert wurde:

• Wie kann ich den Aufrufen des Agenten vertrauen?
• Wer genehmigt den Zugriff auf Tools?
• Was passiert, wenn 50 Agenten gleichzeitig dasselbe Tool nutzen?
• Wie kann ich die Argumentationskette, Tool-Aufrufe und Ergebnisse des Agenten durchgängig nachverfolgen?
• Wie verhindere ich Datenvergiftungen oder manipulierte Tool-Antworten?
• Wie stelle ich sicher, dass der Agent-zu-Agent-Verkehr konform, authentifiziert, beobachtbar und revisionssicher bleibt?

Dies ist das neue Grenzgebiet für verteilte KI-Systeme.
Und genau deshalb haben wir das Truefoundry AI Agent Gateway Gateway entwickelt.

Warum herkömmliche API-Gateways nicht ausreichen

API-Gateways wurden für Service-zu-Service-REST-Traffic entwickelt –zustandslos,Anfrage/Antwort,Routing pro Aufrufhandelt.
Agentische Systeme sind das Gegenteil:

1. Agenten nutzen zustandsbehaftete Protokolle (MCP, A2A, JSON-RPC)
‍Sie verwalten Sitzungen, Kontext und langlebige Streams. REST-Gateways können weder Sitzungsidentitäten nachverfolgen noch Multi-Agenten-Konversationen multiplexen oder demultiplexen.

2. Tools können Ereignisse an Agenten zurückmelden
‍Agenten benötigen Push-Nachrichten (SSE, Streaming-Updates). Reverse Proxys scheitern hier, da sie bidirektionale Datenströme nicht verstehen.

3. Agenten-Workloads „fächern“ massiv auf
‍Eine einzelne Anfrage wie „Finde alle Tools, die das Kundenrisiko analysieren können“ erfordert möglicherweise die Abfrage von 10 oder 20 Backend-MCP-Tool-Servern, um anschließend ein einheitliches Ergebnis zurückzugeben – mit herkömmlichen Gateways nicht möglich.

4. Agenten erfordern dynamische Berechtigungen und Leitplanken
‍Jede Agenten-Persona (ComplianceAgent, PaymentsAgent, FraudAgent) benötigt unterschiedliche Zugriffsberechtigungen. API-Gateways können kein rollenbasiertes Zugriffskonzept (RBAC) auf Tool-Ebene für maschinelle Reasoning-Systeme durchsetzen.

5. Agenten erfordern Observability auf semantischer Ebene – nicht nur Metriken
‍Entwickler und Auditoren müssen folgende Fragen beantworten können:

• Welche Tools wurden aufgerufen?
• Welcher Reasoning-Schritt hat dies ausgelöst?
• Welche Daten sind durch das System geflossen?
• Wurde die Antwort des Tools manipuliert?

API-Gateways verfügen schlichtweg nicht über diesen Kontext.

Agentenbasierte Systeme benötigen eine neue Kategorie von Infrastruktur:
Ein zustandsbehaftetes, protokoll- und LLM-fähiges Gateway.
Genau das hat Truefoundry entwickelt

‍Die Steuerungsebene für agentenbasierte Systeme:

Truefoundrys Agent Gateway Das eingebettete AI-Gateway ist eine sofort einsatzbereite Data Plane auf Enterprise-Niveau, die zwischen Agenten, Tools und LLMs geschaltet ist.
Ihr Auftrag ist einfach, aber wirkungsvoll:
Verbinden Sie jeden Agenten sicher, beobachtbar und vorhersehbar mit jedem Tool – unabhängig vom Agenten-Framework oder der Umgebung. Diese Grundlage ermöglicht Multi-Agenten-MCP- Deployments, bei denen Dutzende oder sogar Hunderte von Agenten über gemeinsam genutzte Tools und kontrollierte Protokollabläufe koordinieren, ohne betriebliches Chaos zu verursachen.

Es fungiert als verbindendes Element für die gesamte agentenbasierte Kommunikation:

• Agent → Tool
• Agent → Agent
• Agent → LLM
• Agent → Externe APIs
• Agent → Interne Systeme

Betrachten Sie es als das Istio für KI-Agenten, aber speziell für die Realität von MCP- und A2A-Traffic entwickelt.

Die drei Aufgaben eines AI Agent Gateways

1. Verbinden: Universelle Interoperabilität zwischen Agenten und Tools
‍Unternehmen werden sich nicht auf ein einziges Agenten-Framework festlegen.
Truefoundry löst dies durch:

• Native MCP- und A2A-Konnektivität
• Automatische Übersetzung von bestehenden REST/OpenAPI-Tools in MCP-Tools
• Eine föderierte Tool-Registry, die nur die Tools bereitstellt, für die ein jeweiliger Agent autorisiert ist
• Protokollbewusstes Sitzungsmanagement und Routing

Dies ist kein generisches API-Routing – es ist die Art von agentenbewusster Verbindungs-Orchestrierung, die man vom besten Agent Gatewayhandelt.

2. Absichern: Leitplanken, Authentifizierung, Autorisierung & Richtlinien

Hier wird Truefoundry geschäftskritisch für Agentic AI Securityhandelt.

Es bietet:

• Berechtigungen pro Agent und pro Tool
• Strikte Durchsetzung von Richtlinien, wer was aufrufen darf
• Schutz vor Tool-Poisoning- und Shadowing-Angriffen
• Multi-Tenancy für die Segmentierung von Geschäftsbereichen
• Unterstützung für Unternehmensidentitäten (OIDC, OAuth, JWT, Workload Identity)

Agenten dürfen Tools nicht unkontrolliert „entdecken“ können.
Truefoundry stellt sicher:

• Der richtige Agent sieht die richtigen Tools
• Jeder Aufruf ist authentifiziert
• Jede Antwort ist vertrauenswürdig
• Jede Interaktion ist prüfbar

Genau das fordern Unternehmen, bevor KI-Agenten in die Produktion gehen.

3. Beobachten & Steuern: Vollständige Transparenz über den Lebenszyklus agentischer Workflows

Agentische Systeme, die auf den besten agentischen KI-Plattformen laufen, sind dynamisch und unvorhersehbar.
Was man nicht sehen kann, lässt sich auch nicht steuern.

‍

‍

Truefoundry bietet:

• End-to-End-Tracing von Interaktionen zwischen Agenten, Tools und Agenten
• Sitzungs-Introspektion über MCP/A2A-Streams hinweg
• Visualisierung der agentenübergreifenden Topologie
• Replay-Funktion für das Debugging
• Integrierte Überwachung von Latenz, Fehlerraten, Wiederholungsversuchen und Timeouts
• Sicherheitsfilter und Laufzeit-Richtlinien-Injection

Diese Observability-Ebene bildet die Grundlage für:

• Compliance
• Audits
• Leistungsoptimierung
• Debugging für Entwickler
• Agenten-Evaluierung und Zuverlässigkeitstests

Für Entwickler fühlt es sich an, als würde man „in den Kopf“ seines Agentensystems blicken – Schritt für Schritt.

‍

Warum die Architektur von Truefoundry funktioniert

Truefoundry hat sein Gateway als zustandsorientierte Datenebene auf Rust-Basis entwickelt und nicht als zweckentfremdeten Proxy.
Das ist aus mehreren Gründen wichtig:

1. Hoher Durchsatz + Speichersicherheit = Zuverlässigkeit bei Skalierung

Agent-Gateways verwalten tausende gleichzeitige Tool-Sitzungenhandelt.
Die asynchrone Laufzeitumgebung von Rust ermöglicht eine vorhersehbare Speicherauslastung und eliminiert gleichzeitig ganze Klassen von Sicherheitslücken.

2. Zustandsorientiertes Multiplexing

Truefoundry verfolgt:

• Sitzungen
• Tool-Funktionen
• MCP-Protokollversionen
• Laufende Anfragen
• Agenten-Identität
• Zugriffsbereiche

Dies ermöglicht es, eine Agentenanfrage auf viele Backend-Tools zu verteilen und die Ergebnisse anschließend sauber zusammenzuführen.

3. Bidirektionale Nachrichtenverarbeitung

MCP/A2A unterstützt vom Server initiierte Nachrichten.
Truefoundry leitet diese korrekt an die richtige Agentensitzung weiter – selbst über verteilte Systeme hinweg.

4. Protokollintelligenz

Das Gateway verfügt über ein tiefgreifendes Verständnis von:

• JSON-RPC
• MCP-Semantik
• A2A-Aufgabendelegationsmustern
• Tool-Metadaten
• Aushandlung von Protokoll-Upgrades

Dadurch ist das Gateway zukunftssicher bei der Weiterentwicklung von Agentenprotokollen.

Was das für Entwickler bedeutet

Entwickler erhalten:

• Eine Verbindung → Zugriff auf alle Tools
• Keine Notwendigkeit, für jedes Tool eigene Adapter zu bauen
• Automatische Übersetzung von REST-APIs in MCP-Tools
• Integrierte Wiederholungsversuche, Backoff und Timeouts
• Vollständige Trace-Protokolle für das Debugging
• Kein Schreiben von Glue-Code und Wrappern mehr erforderlich

Truefoundry eliminiert 70 % der „Infrastruktur-Steuer“, die Entwickler heute beim Aufbau von Agentensystemen zahlen.

Was das für Führungskräfte bedeutet

Führungskräfte erhalten:

1. Integrierte Sicherheit und Governance

Keine unkontrollierten Agenten-Aktionen.
Keine undurchsichtigen Blackboxen.

2. Schnellere Markteinführung

Entwicklungsteams müssen Sitzungs-Routing, Authentifizierung, Tracing oder Governance nicht jedes Mal neu erfinden.

3. Unternehmensweite Standardisierung

Jeder Geschäftsbereich kann Agenten dank Multi-Tenancy und fein abgestufter Kontrollen sicher einsetzen.

4. Geringeres operatives Risiko
‍Truefoundry fungiert als Schutzschicht, die das Unternehmen vor Folgendem bewahrt:

• Datenabfluss
• Unsichere Agenten-Aktionen
• Unvorhersehbares Tool-Verhalten
• Compliance-Verstöße

5. Ein skalierbares Betriebsmodell für KI-Systeme

Das Gateway wird zum Rückgrat für Hunderte von Agenten, die bank- oder unternehmensweit zusammenarbeiten.

Warum Agent-Gateways zum neuen „API-Gateway“ des KI-Zeitalters werden

So wie API-Gateways mit dem Aufkommen von Microservices unverzichtbar wurden, werden KI-Agent-Gateways zur Grundlage, wenn Unternehmen Folgendes bereitstellen:

• KI-SRE-Agenten
• KI-QA-Agenten
• KI-Agenten zur Datenkuration
• KI-Agenten zur Zahlungsabwicklung
• KI-Kundenservice-Agenten
• Multi-Agenten-Workflows für das gesamte Unternehmen

Die Konnektivität zwischen Agenten sowie zwischen Agenten und Tools ist das neue „Service-Mesh“-Problem – Truefoundry löst es mit einem zweckgebundenen, sicheren, kontrollierten und zustandsbehafteten Gateway.

‍Das strategische Fazit

‍
KI-Agenten versprechen exponentielle Geschwindigkeit, Autonomie und Intelligenz.
Doch ohne die richtige Verbindung – eine sichere, beobachtbare und richtlinienbasierte Kommunikation – bleiben sie bloße Prototypen.
‍
Truefoundrys KI-Agenten-Gateway ist die fehlende Ebene, die agentische Systeme von Experimenten in Unternehmensplattformen verwandelt.
Es ist die Steuerungsebene, die Ordnung, Vertrauen, Zuverlässigkeit und Governance für KI-Agenten in großem Maßstab schafft.
Und zum ersten Mal können Unternehmen agentische Anwendungen mit demselben Vertrauen betreiben wie geschäftskritische Microservices.