KI-Chaos in Kontrolle bringen: Ein Gespräch über Agentic AI mit Tesseract Talks

In dem Maße, in dem Unternehmen nicht mehr mit großen Sprachmodellen experimentieren, sondern agentische KI-Systeme in der Produktion einsetzen, tauchen neue Herausforderungen auf. Teams bewegen sich schneller als je zuvor, aber oft in unterschiedliche Richtungen. Modelle, Tools, Frameworks und Agenten vervielfachen sich, und mit diesem Wachstum geht eine Fragmentierung einher.

In einer kürzlichen Folge von Tesseract Talks hat John K. Thompson mit Nikunj Bajaj, Mitbegründer und CEO von TrueFoundry, gesprochen, um herauszufinden, was es wirklich braucht, um agentische KI in großen Unternehmen zu skalieren.

Hier sind einige der wichtigsten Erkenntnisse aus dem Gespräch.

Von einfachen LLM-Apps bis hin zu komplexen Agentensystemen

KI-Systeme haben sich vor allem im letzten Jahr drastisch weiterentwickelt.

Was früher ein einziger LLM-Anruf mit einem Tool war, ist heute zu einem Netzwerk von Komponenten geworden, die zusammenarbeiten. Agenten, die für die Produktion geeignet sind, kombinieren in der Regel:

• Mehrere LLMs (oft anbieter- und cloudübergreifend)
• Modellkontextprotokolle (MCPs) und Tools
• Leitplanken für Sicherheit, Datenschutz und Compliance
• Eingabeaufforderungen und Orchestrierungslogik
• Andere Agenten, hierarchisch zusammengesetzt

Wie Nikunj erklärte, ist diese Komplexität kein Zufall, sondern eine natürliche Folge davon, dass Agenten immer leistungsfähiger werden. Es bedeutet aber auch, dass verschiedene Teams innerhalb desselben Unternehmens Agenten auf sehr unterschiedliche Weise zusammenstellen und dabei unterschiedliche Stacks und Frameworks verwenden.

Diese Flexibilität hilft Teams, schnell voranzukommen. Im großen Maßstab sorgt es auch für Chaos.

Die wahre Herausforderung für Unternehmen: Geschwindigkeit und Kontrolle

Unternehmen sehen sich mit der Notwendigkeit konfrontiert, ein Gleichgewicht zwischen zwei konkurrierenden Kräften herzustellen: den Teams die Autonomie zu geben, zu experimentieren und schnell Werte zu liefern, während gleichzeitig die unternehmensweite Konsistenz in Bezug auf Sicherheit, Governance und Kosten gewahrt bleibt. Nikunj bezeichnete dies als „föderierte Ausführung mit zentraler Verwaltung“.

Schon früh, wenn Teams klein sind, funktioniert Autonomie gut. Aber wenn Unternehmen wachsen, werden Richtlinien, Budgets und Kontrolle unverzichtbar. Menschliche Mitarbeiter arbeiten flexibel, aber innerhalb eines strukturierten Systems. Agentic AI braucht dasselbe.

Agentic AI braucht dasselbe.

Hier kommt die Idee einer KI-Gateway kommt rein. Laut Nikunj hat sich das Gateway weit über einen einfachen Proxy für das Weiterleiten von Anfragen zwischen Modellen hinaus entwickelt. Heute wird es:

• Ein einheitlicher Einstiegspunkt für LLMs, MCPs, Agenten, Eingabeaufforderungen und Leitplanken
• Eine Normalisierungsebene zwischen Cloud-Anbietern und Modellanbietern
• Ein Ort, an dem Zugriffskontrollen, Budgetbeschränkungen und Compliance-Richtlinien durchgesetzt werden können
• Eine Grundlage für Observability und Debugging

Kurz gesagt, es wird zum zentralen Hauptsitz, zur Kontrollebene, die den Unternehmen bisher gefehlt hat.

Wie wir über die Rolle von TrueFoundry denken

Bei TrueFoundry sehen wir agentische KI nicht als eine Reihe einmaliger Projekte. Wir sehen darin eine langfristige Transformation. Wie Nikunj erklärte, liegt unser Fokus darauf, Unternehmen zu helfen:

• Halten Sie ihren KI-Stack zukunftsfähig, während sich das Ökosystem weiterentwickelt
• Integrieren Sie neue Agentenfunktionen in die bestehende Infrastruktur
• Vermeiden Sie die falsche Wahl, alles selbst zu bauen oder starre Werkzeuge zu kaufen

Durch die Bereitstellung einer flexiblen, API-gesteuerten Plattform können Teams auf einer soliden Grundlage aufbauen und schneller vorankommen, ohne die Kontrolle zu verlieren.

Nikunj formulierte es so: „Agenten brauchen Flexibilität, um zu handeln. Unternehmen benötigen einen Hauptsitz, um sie kontrollieren zu können.“