Blank white background with no objects or features visible.

Hallo EMEA! TrueFoundry baut seine Präsenz in Europa, dem Nahen Osten und Afrika weiter aus. Mehr erfahren. →

Steuerung von KI-Agenten über mehrere Plattformen hinweg

von TrueFoundry

Aktualisiert: November 3, 2026

Published: Juli 7, 2026

Die meisten Unternehmen haben sich nicht bewusst dafür entschieden, KI-Agenten über fünf verschiedene Plattformen hinweg einzuführen. Es ist ihnen einfach passiert. Microsoft Copilot hielt Einzug mit der Produktivitätssuite. ServiceNow integrierte Now Assist direkt in die Ticket-Warteschlange. Salesforce aktivierte Agentforce im CRM. Weitere Daten- und SaaS-Plattformen begannen, Agenten direkt neben den führenden Systemen auszuführen. Jede Plattform brachte ihre eigene KI-Laufzeitumgebung mit — und ganz stillschweigend ihre eigene Governance-Strategie, die an den Grenzen der jeweiligen Plattform endet.

Das Ergebnis ist eine Governance-Lücke, die ein einzelner Anwendungsplattform-Anbieter kaum alleine schließen kann. Wenn ein Agent innerhalb einer Plattform eine API aufruft: Wer hat das autorisiert? Wenn ein Agent in einer anderen Plattform ein vertrauliches Dokument zusammenfasst: Welche Richtlinie hat die Antwort geregelt? Und wenn sich ein Agent in der Produktion fehlerhaft verhält: Wer kann ihn schnell isolieren — ohne die Konsolen oder Support-Warteschlangen mehrerer Anbieter koordinieren zu müssen?

Dies ist kein Risiko der Zukunft. Es ist die betriebliche Realität für jedes Unternehmen, das mehr als eine KI-Plattform unabhängig voneinander eingeführt hat — was in großen Unternehmen immer häufiger vorkommt.

Die Struktur des Problems

Bevor wir über eine Lösung sprechen, lohnt es sich, genau zu bestimmen, warum dies wirklich schwierig ist. Die Herausforderung ist struktureller Natur und zeigt sich an vier Stellen gleichzeitig.

Erkennung

Was Sie nicht finden, können Sie nicht steuern

Agenten entstehen auf vier Wegen: entwickelt von Plattform-Teams, erstellt von Fachanwendern (Schatten-Agenten), lizenziert von Drittanbietern oder generiert durch Tools ohne menschliche Überprüfung. Ein Register, das nur die Agenten erfasst, die Ihnen bereits bekannt waren, übersieht den Großteil des Risikos.

Richtlinien

Richtlinien in Silos bleiben wirkungslos

Eine DLP-Regel in einem Ökosystem gilt nicht für einen Agenten in einem anderen, der auf dieselben sensiblen Daten zugreift. Ein Rate Limit in einem Tool schränkt den Prozess im nächsten nicht ein. Isolierte Richtlinien sind faktisch keine Richtlinien.

Identität

Jede Plattform vergibt eigene Identitäten

Die Identität eines Agenten auf einer Plattform bedeutet für eine andere gar nichts. Ohne einen gemeinsamen Principal fällt die Antwort auf die Frage „Wer ist dieser Agent und was darf er tun?“ auf jeder Plattform anders aus.

Lebenszyklus

Kein einheitlicher Pfad zur Notfallsteuerung

Wenn ein Agent Fehlverhalten zeigt, beträgt das Zeitfenster für eine Reaktion oft nur Minuten. Die Koordinierung von Maßnahmen über Konsolen oder Support-Warteschlangen mehrerer Anbieter hinweg kann eine eigentlich schnelle Intervention auf Stunden ausdehnen.

Und es gibt ein fünftes Problem, das erst in dem Moment sichtbar wird, in dem ein Benutzer versucht, tatsächlich etwas mit dem Agenten eines Drittanbieters zu tun: den Authentifizierungsaufwand.

Der versteckte Authentifizierungsaufwand

Betrachten wir einen alltäglichen Prompt, der an den offiziellen Agenten eines Drittanbieters gesendet wird, welcher in einem Assistenten im Copilot-Stil installiert ist. Beim ersten Zugriff kann der Agent die Anfrage erst beantworten, nachdem sich der Benutzer direkt bei diesem Drittanbieter-Dienst angemeldet hat.

A third-party agent prompting the user to sign in via OAuth before it can respond
Abb. 01 · Die OAuth-Aufforderung pro Tool. Wenn ein Benutzer zum ersten Mal mit dem Agenten eines Drittanbieters interagiert, steht er vor einer Anmeldeschranke. Jeder Agent von Drittanbietern im Store folgt demselben Muster — das sich pro Benutzer und pro Tool wiederholt.

Das ist kein Fehler. Es ist die einzige sichere Architektur, wenn jeder Agent ein separat bereitgestelltes Produkt ist. Doch summiert über den gesamten Tool-Bestand eines Unternehmens hat dies reale betriebliche Konsequenzen:

  • Reibung pro Benutzer und pro Tool. Jeder Mitarbeiter muss jeden Agenten bei der ersten Nutzung erneut autorisieren. Multiplizieren Sie das mit der Anzahl der Mitarbeiter und anschließend mit dem Tool-Bestand.
  • Token-Wildwuchs. OAuth-Tokens für jeden verbundenen Dienst verteilen sich über sämtliche Benutzer-Identitätsspeicher. Compliance wird zu einer Einzelfrage pro Anbieter statt zu einem zentralen Audit-Trail.
  • Keine zentrale Widerrufung. Wenn sich ein Vertrag ändert oder ein Sicherheitsvorfall den Entzug von Zugriffsrechten erfordert, muss die Organisation dies über jede einzelne Anbieterbeziehung abwickeln statt an einem zentralen Prüfpunkt.

Wie eine plattformübergreifende Control Plane funktioniert

Ein Architekturmuster, das diese Lücke direkt schließt, setzt die Steuerung an der Ebene an, die alle diese Plattformen gemeinsam haben. Jeder Agent — unabhängig davon, auf welcher Plattform er gehostet wird — führt letztendlich einen LLM-Aufruf oder einen Tool-Aufruf aus. Wer dort ansetzt und steuert, kontrolliert die Agentenaktivität, die über diese gemeinsame Ausführungsebene geroutet wird — ohne jede Anwendungsplattform bitten zu müssen, sich selbst neu zu entwickeln.

Das ist das Prinzip hinter dem Agent Gateway von TrueFoundry: eine dedizierte Steuerungsebene für KI-Agenten in der Produktion, die vor den Modellen und Tools sitzt, von denen jeder Agent abhängt. TrueFoundry zieht eine klare Grenze zwischen einem AI Gateway, das zustandslose Prompts und Tokens verwaltet, und einem Agent Gateway, das als Data Plane für agentische KI dient — für zustandsbehaftete Sitzungen, mehrstufige Ausführungen und den Datenfluss zwischen Agenten und ihren Tools. Es verhält sich wie ein Service Mesh, das speziell für agentische Systeme entwickelt wurde.

Über den Gateways liegt eine vierte Ebene: der Agent Harness. Ein Harness ist die Laufzeitumgebung um ein LLM herum — die Orchestrierungsschleife, die plant, Tools aufruft, den Kontext verwaltet, sensible Aktionen durch Freigaben absichert und jeden Schritt in einem Trace aufzeichnet. Erst dadurch wird aus einem Modellaufruf ein zuverlässiger, langlaufender Agent.

Agent Harness diagram: the harness orchestrates the run between a user goal and a final response, routing between model, tools and MCP servers, sandbox, and approval gates, while enforcing guardrails and recording a full trace
Abb. 02 · Die Aufgaben eines Agent Harness. Er sitzt zwischen dem Ziel des Benutzers und der finalen Antwort. Er orchestriert den Agentenablauf, routet zwischen Modell, Tools, Sandbox und Freigabe-Schranken, setzt Guardrails durch und zeichnet einen vollständigen Trace für Transparenz und Debugging auf.

TrueFoundry stellt dies als verwalteten Dienst statt als Framework bereit. Eine isolierte Sandbox-Ausführungsumgebung führt Code und langlaufende Aufgaben aus. Human-in-the-Loop-Freigaben pausieren sensible Tool-Aufrufe, bis ein Benutzer zustimmt. Ein versioniertes Skills Registry verwaltet wiederverwendbare Anweisungen mit RBAC. Und besonders wichtig: In den Agentendefinitionen werden keinerlei API-Schlüssel oder Zugangsdaten gespeichert. Diese verbleiben in den Gateways, wo Plattform-Teams den Zugriff einmalig konfigurieren und Entwickler von Agenten niemals mit Secrets in Berührung kommen.

TrueFoundry agent overview dashboard with registry, active users, runtime, and analytics
Abb. 03 · Eine einheitliche Betriebsansicht. Anzahl im Agentenregister, aktive Benutzer, Laufzeitstunden, ausstehende Anfragen, gefährdete Agenten, Agenten ohne Eigentümer und Analysen — die operativen Grundbausteine, die ein Administrator-Team erwartet, wobei die Data Plane in der eigenen Infrastruktur des Kunden läuft.

Ein entscheidender Punkt: Die Erkennung beschränkt sich nicht auf Agenten, die Sie auf der Plattform selbst entwickelt haben. Agenten, die an anderer Stelle laufen — auf Bedrock, LangGraph, einem benutzerdefinierten HTTP-Dienst oder der Plattform eines anderen Anbieters —, werden als Remote-Agenten mit denselben Metadaten und Steuerungsmechanismen im selben Bestand registriert. Aus der fragmentierten Flotte wird eine einzige Übersicht.

Agent map clustering agents by source platform: third-party, Microsoft, Agent Builder, others
Abb. 04 · Die Flotte, gruppiert nach Quelle. Agenten nach Herkunft gruppiert — Drittanbieter, Microsoft-nativ, auf der Plattform entwickelt und weitere —, sodass Administratoren auf einen Blick sehen, welcher Anteil der Flotte woher stammt, und den registrierten/gerouteten Teil von einer zentralen Stelle aus steuern können.

Fünf Funktionen, auf die Sie achten sollten

Für Teams, die bewerten, wie sich diese Lücke schließen lässt, lohnt sich ein genauer Blick auf die folgenden fünf Funktionen — jeweils mit einem Hinweis darauf, was die Umsetzung unter der Haube erfordert.

1

Zentrale Control Plane für gerouteten Agenten-Datenverkehr

Eine Schicht zur Steuerung des Agenten-Datenverkehrs, den Sie aus Copilot, ServiceNow, Salesforce und benutzerdefinierten Systemen routen oder registrieren — anstatt sich ausschließlich auf getrennte Konsolen zu verlassen.

Funktionsweise: Das Gateway kann Richtlinien für geroutete Modell- und Tool-Aufrufe unabhängig von der Quellplattform durchsetzen. Protokollierung und Limits greifen somit einheitlich dort, wo der Datenverkehr passiert — bei einem Overhead von typischerweise unter 5 ms.
2

Erkennung und Register mit umfangreichen Metadaten

Erkennung und Registrierung gesteuerter Agenten mit Erfassung von Eigentümer, Umgebung, Modell, Tool-Berechtigungen und Aktivität dort, wo Integrationen oder Routing Transparenz bieten.

Funktionsweise: Die Registrierung von Remote-Agenten zusammengeführt Agenten aus verschiedenen Quellen in einem Bestand; Gateway-Telemetrie hält die Metadaten für gesteuerten Datenverkehr auf dem neuesten Stand.
3

Einheitliche Governance — Identität, Richtlinien, Observability, Lebenszyklus

Eine verifizierbare Identität pro Agent, einmalig definierte Richtlinien, nachvollziehbare Traces und ein zentraler Ort zur Zustandsverwaltung.

Funktionsweise: Vom Gateway ausgestellte Principals mit föderiertem SSO, OpenTelemetry-Traces auf Schrittebene sowie Token- und Zuordnung von Kosten nach Agent, Team und Umgebung.
4

Durchsetzung von Richtlinien über isolierte Ökosysteme hinweg

PII-Filterung, Guardrails, Rate Limits, Budgets und Tool-Allowlists, die für den über die gemeinsame Modell-/Tool-Schicht gerouteten Datenverkehr konsistent gelten.

Funktionsweise: Da das Gateway auf der gemeinsamen Modell-/Tool-Schicht angesiedelt ist, wird eine einmal verfasste Richtlinie für den gerouteten Datenverkehr durchgängig durchgesetzt — vor und nach dem Aufruf.
5

Schnelle Isolierung für gesteuerten Datenverkehr

Eine einzelne Aktion, die den Datenverkehr eines auffälligen Agenten am Gateway pausiert, blockiert oder widerruft — inklusive zeitgestempeltem Audit-Trail. Für Agenten, deren Datenverkehr über die Plattform geroutet wird, bietet dies einen zentralen Pfad zur Notfallsteuerung; Agenten, die vollständig innerhalb einer anderen Plattform verbleiben, erfordern weiterhin deren eigene Kontrollen.

Funktionsweise: Das Register verwaltet den Lebenszyklusstatus gesteuerter Agenten in Echtzeit; ein einzelner API-Aufruf oder Klick wird sofort für jeden Modell- und Tool-Aufruf wirksam, der durch das Gateway fließt.
Warum das betrieblich entscheidend ist In der Praxis kann der Unterschied zwischen einer Governance, die an der Plattformgrenze endet, und einer Governance auf der gemeinsamen Ausführungsebene im Ernstfall den Unterschied zwischen Stunden und Sekunden ausmachen — sowie zwischen einer hektischen Compliance-Suche pro Anbieter und einem einzigen Audit-Trail.

Enterprise-fähige Architektur

Eine Control Plane ist nur dann nützlich, wenn sie hohe Lasten verarbeiten kann, ohne selbst zum Engpass zu werden. TrueFoundry belegt dies mit Kennzahlen, die auf Enterprise-Ebene zählen:

99,99 %
Verfügbarkeit durch zentrales Failover & Routing
10 Mrd.+
Verarbeitete Anfragen pro Monat
~30 %
Durchschnittliche Kostenoptimierung

Lauffähig vollständig in Ihrer eigenen Umgebung — VPC, On-Premises, Air-Gapped oder über mehrere Clouds hinweg —, sodass keine Daten Ihre Domain verlassen und die Vorgaben von SOC 2, HIPAA sowie DSGVO durch das Design eingehalten werden. Und da das zugrundeliegende Agent Gateway ein Open-Source-Projekt der Linux Foundation ist, bleibt die Steuerungsebene keine proprietäre Blackbox und Sie binden sich nicht an das Framework eines einzelnen Anbieters.

Kein Ersatz für Ihre Plattform-Investitionen

Eine wichtige Klarstellung, da dies der häufigste Einwand ist: Die Steuerung auf der Ausführungsebene erfordert keinen Austausch der nativen Plattform-Tools, die Sie bereits nutzen. Wenn sich Ihre sensiblen Daten für Wissensarbeiter in M365 befinden, deckt ein Tool wie Microsoft Agent 365 diesen Bereich gut ab — Identität, Daten und Verteilung innerhalb des Microsoft-Ökosystems. Basierend auf den Launch-Materialien von Microsoft und der öffentlichen Berichterstattung mit Stand Juni 2026 hat Agent 365 seine Erkennung bei der allgemeinen Verfügbarkeit über Registry Sync auch auf AWS Bedrock und Google Gemini Enterprise ausgeweitet — ein solider cloudübergreifender Schritt auf der Erkennungsseite.

Aus denselben Launch-Materialien geht jedoch hervor, dass die SaaS-Plattformen, auf denen heute ein erheblicher Teil der Agenten-Workloads in Unternehmen läuft, nicht Teil dieses anfänglichen Synchronisierungsumfangs waren: Agenten in Salesforce Agentforce und ServiceNow AI Agents (beide seit 2024 allgemein verfügbar) waren nicht in der ursprünglichen Abdeckung von Registry Sync enthalten. Zudem erfolgt die Durchsetzung von Richtlinien für jeden synchronisierten Agenten weiterhin über die Steuerungen von Microsoft und nicht über die der Quellplattform. Der Abdeckungsbereich der Konnektoren von Microsoft kann sich im Laufe der Zeit erweitern; Leser sollten die aktuelle Liste prüfen, bevor sie sich auf dieses Detail verlassen. Die Ausführungsebene bleibt eine Ebene, die von allen Plattformen tatsächlich gemeinsam genutzt wird.

Architectural surface area: platform-native governance for the M365 surface, execution-layer governance underneath everything
Abb. 05 · Mehrschichtig statt konkurrierend. Die plattformnative Governance deckt ihren eigenen Bereich ab — Identität, Daten, Verteilung. Eine Control Plane auf Ausführungsebene steuert den Modellzugriff, den Tool-Zugriff und die Agenten-Laufzeitumgebung unterhalb aller Systeme. Das ausgereifte Architekturmuster kombiniert beides.

Erste Schritte

Der schnellste Weg festzustellen, ob dieser Ansatz Ihre Governance-Lücke schließt, ist der Nachweis am eigenen Datenverkehr — fokussiert auf die Anforderungen, die heute die größte Herausforderung darstellen:

  • Bereitstellen des Gateways in einer Sandbox-VPC und Routen eines Teils des realen Agenten-Datenverkehrs darüber. Prüfen Sie den Latenz-Overhead und die Ausgabe der Observability.
  • Registrieren einiger bestehender Agenten aus mindestens zwei verschiedenen Plattformen. Prüfen Sie die Metadaten und den einheitlichen Bestand.
  • Definieren von zwei oder drei plattformübergreifenden Richtlinien — einen PII-Filter, ein Rate Limit, eine Tool-Allowlist — und Bestätigen, dass diese für die registrierten/gerouteten Agenten im Testumfang greifen.
  • Messen der Isolierungszeit für gesteuerte Pfade: von der Auslösung bis zur Durchsetzung, belegt durch das Audit-Log.

Erleben Sie die Steuerung Ihrer eigenen Flotte

In Ihrer Umgebung bereitstellen, den kontrollierten Agenten-Datenverkehr über eine gesteuerte Schicht routen und erleben, wie plattformübergreifende Richtlinien greifen.

Das Agent Gateway entdecken →

‍

⚠ Redaktioneller Hinweis Dieser Artikel wird von TrueFoundry, Inc. ausschließlich zu Informationszwecken veröffentlicht und basiert auf der Analyse öffentlich zugänglicher Anbieterdokumentationen mit Stand Juni 2026. Alle geäußerten Ansichten sind Unternehmenspositionen von TrueFoundry, nicht die einzelner Mitwirkender, und stellen keine professionelle, rechtliche oder kaufmännische Beratung dar. Microsoft hat diesen Artikel weder geprüft, unterstützt noch gesponsert. Produktfunktionen, Preise und Roadmaps können sich ohne Vorankündigung ändern; dargestellte Zahlen stammen aus öffentlichen Materialien oder dienen als veranschaulichende Diagramme. Die ursprüngliche Analyse, der Text und die Diagramme sind Eigentum von TrueFoundry, Inc.; alle Produktnamen und Marken Dritter sind Eigentum der jeweiligen Inhaber. Bitte überprüfen Sie alle Informationen anhand der aktuellen Anbieterdokumentation, bevor Sie architektonische oder kaufmännische Entscheidungen treffen.

Quellen

  1. Microsoft Learn — Microsoft Agent 365 Übersicht (GA, Säulen: Überwachen / Steuern / Sichern).
  2. Microsoft Learn — Microsoft Agent 365 SDK Übersicht.
  3. Windows Central — Ankündigung des Microsoft 365 E7 Tarifs ($15/Benutzer/Monat standalone; $99/Benutzer/Monat im E7-Paket).
  4. Der in diesem Artikel erwähnte Umfang von Registry Sync basiert auf den öffentlichen GA-Materialien von Microsoft und der Berichterstattung mit Stand Juni 2026; Leser sollten die aktuelle Konnektorenliste in der Dokumentation von Microsoft überprüfen, bevor sie sich darauf stützen.
  5. TrueFoundry — Agent Gateway Produktseite (Steuerungssäulen, zustandsbehaftetes Agent Mesh, 99,99 % Verfügbarkeit, 10 Mrd.+ Anfragen/Monat, ~30 % Kostenoptimierung, Linux Foundation Projekt, VPC / On-Premises / Air-Gapped Deployment).
  6. TrueFoundry Docs — AI Gateway (1.000+ LLMs, Latenz-Overhead) und Agent Harness Übersicht (verwaltete Laufzeitumgebung, Sandbox, HITL-Freigaben, Skills Registry, no-keys Zugangsdatenmodell).

Try now.

One gateway for all your models, MCP servers, and agents. No credit card needed.

Melde dich an
Inhaltsverzeichniss

Steuern, implementieren und verfolgen Sie KI in Ihrer eigenen Infrastruktur

Buchen Sie eine 30-minütige Fahrt mit unserem KI-Experte

Eine Demo buchen

Der schnellste Weg, deine KI zu entwickeln, zu steuern und zu skalieren

Demo buchen
Summarize with
ChatGPT logo by OpenAI
Perplexity AI logo
Blurry red snowflake on white background, symmetrical frosty design with soft edges and abstract shape.

Entdecke mehr

Keine Artikel gefunden.
November 20, 2026
|
Lesedauer: 5 Minuten

AI Gateway Observability for Agents: Oodle on TrueFoundry

Integrations
November 20, 2026
|
Lesedauer: 5 Minuten

AI Gateway Security for Agents: Straiker on TrueFoundry

Keine Artikel gefunden.
November 18, 2026
|
Lesedauer: 5 Minuten

Clause Code Limits erklärt (Ausgabe 2026)

Keine Artikel gefunden.
Analyzing how Cloudflare detects MCP traffic
November 18, 2026
|
Lesedauer: 5 Minuten

How Cloudflare Detects MCP Traffic and Helps Secure It

Keine Artikel gefunden.
Keine Artikel gefunden.

Aktuelle Blogs

Black left pointing arrow symbol on white background, directional indicator.
Black left pointing arrow symbol on white background, directional indicator.
Machen Sie eine kurze Produkttour
Produkttour starten
Produkttour