TrueFoundry + Seldon: Einheitliche Steuerungsebene für Enterprise-KI

Auf Geschwindigkeit ausgelegt: ~ 10 ms Latenz, auch unter Last
Unglaublich schnelle Methode zum Erstellen, Verfolgen und Bereitstellen Ihrer Modelle!
- Verarbeitet mehr als 350 RPS auf nur 1 vCPU — kein Tuning erforderlich
- Produktionsbereit mit vollem Unternehmenssupport
Wir geben heute bekannt, dass TrueFoundry das Geschäft und die Kunden von Seldon übernommen hat.
Seit über einem Jahrzehnt ist Seldon das Rückgrat für Echtzeit-ML-Inferenz bei einigen der anspruchsvollsten Unternehmen der Welt – in den Bereichen Bankwesen, Einzelhandel, Telekommunikation, Versicherung und Gesundheitswesen. Sie haben sich intensiv mit einer der schwierigsten Aufgaben der produktiven KI befasst: dem Bereitstellen klassischer ML-Modelle in Echtzeit und im großen Maßstab auf Kubernetes. Unternehmen wie Best Buy, Verizon und PayPal vertrauen auf ihre Lösungen.
Seldon hat sich darauf konzentriert, dies zu perfektionieren. Da sich der Markt in Richtung autonomer Agenten entwickelt hat, ist dies genau die Ebene, die ihre Kunden nun ergänzen müssen – und genau hier kommt TrueFoundry ins Spiel.
TrueFoundry ist eine auf Kubernetes laufende Steuerungsebene für Enterprise AI, die es Unternehmen ermöglicht, KI skalierbar mit der richtigen Governance, Beobachtbarkeit und Kostenkontrolle einzuführen. Unser Produkt AI Deploy führt und skaliert agentische KI- und ML-Workloads. Unser AI Gateway fungiert als Steuerungsebene für agentische KI – es verbindet, überwacht und steuert jeden LLM-, Agenten- und Tool-Aufruf zentral von einem Ort aus. Dieses Jahr haben wir unser Agent Gateway eingeführt, das diese Steuerungsebene noch tiefer in die Funktionsweise von Agenten integriert.
Das ist die Brücke, die wir den Kunden von Seldon bieten: Behalten Sie das produktive ML, das Sie aufgebaut haben, und gewinnen Sie einen klaren Weg zur agentischen KI auf derselben Kubernetes-Grundlage, die Sie bereits nutzen.
Dies ist nach der Einführung des Agent Gateways der zweite große Schritt, den wir in diesem Jahr vollzogen haben. Hier erfahren Sie, warum wir diesen Schritt gemacht haben, warum jetzt und warum Seldon.
Jedes Unternehmen steht heute auf beiden Seiten der KI
Wenn man heute mit fast jedem Enterprise-KI-Team spricht, hört man dasselbe: Sie betreiben traditionelle ML-Modelle – für Betrugserkennung, Abwanderungsprognosen oder Empfehlungen – und sie entwickeln gleichzeitig agentische Workflows, die eigenständig Schlussfolgerungen ziehen, Tools aufrufen und handeln.
Früher entwickelten sich diese Bereiche unterschiedlich schnell. Das ist heute nicht mehr der Fall. Beide werden gleichzeitig geschäftskritisch.
Die Verwaltung als zwei getrennte Probleme – mit zwei Anbietern, zwei Governance-Modellen und zwei Tool-Sets – ist teuer und fehleranfällig. Für Banken, Krankenhäuser, Versicherer und Einzelhändler wird eine Verschlechterung der Modellleistung oder eine Lücke in der Governance innerhalb von Minuten zu einem Problem für den Endkunden.
Diese Unternehmen möchten nicht zwei Stacks mühsam miteinander verknüpfen. Sie wollen eine Plattform von einem Anbieter, die auf der Infrastruktur läuft, die sie bereits besitzen.
Warum Seldon und warum jetzt?
Die Kunden von Seldon sind genau die Unternehmen, die auf beiden Seiten dieser Grenze stehen. Sie haben erstklassiges produktives ML aufgebaut – und der agentische Teil ist für sie der natürliche nächste Schritt.
Warum jetzt: Agenten haben in diesem Jahr den Sprung vom Experiment zur Produktion geschafft. Die Unternehmen, die Seldons ML nutzen, sind dieselben, von denen heute erwartet wird, dass sie agentische Anwendungen bereitstellen – und sie benötigen einen Weg, der auf dem aufbaut, dem sie bereits vertrauen, anstatt eine zweite Plattform von Grund auf neu aufbauen zu müssen.
Wir sind aus zwei Gründen das richtige Zuhause für diesen Schritt.
Gemeinsame Grundlage. Seldon und TrueFoundry basieren auf derselben Überzeugung: portable, Kubernetes-native Infrastruktur, die überall dort läuft, wo das Unternehmen bereits tätig ist. Keine neue Philosophie, die übernommen werden muss, keine Plattform, die neu konzipiert werden muss. Ihre Teams sind bereits dort, wo unsere zu Hause sind.
Ein echter Weg zur agentischen KI. Genau das beherrscht TrueFoundry und hat es über Jahre in der Zusammenarbeit mit Unternehmenskunden perfektioniert. Über unser AI Gateway können Seldon-Kunden ihre Agenten mit der bereits bestehenden ML-Infrastruktur verbinden, überwachen und steuern. So wird aus einer jahrelangen Investition in produktive ML-Systeme kein Altbestand, sondern das Sprungbrett für agentenbasierte Anwendungen.
Was das für Seldon-Kunden bedeutet
Wenn Sie Seldon-Kunde sind, ist das Wichtigste vorab: Ihr ML läuft weiterhin auf unserer AI Deploy-Plattform.
Sie behalten die Kubernetes-Infrastruktur, in die Sie jahrelang investiert haben. Wir arbeiten aktiv mit Ihnen an der weiteren Entwicklung – mit kontinuierlichem Support bei der Einführung der TrueFoundry-Plattform für Ihre KI-Workloads und einer Brücke zur Agentic AI über unser AI Gateway, das alles unter einer zentralen Steuerungsebene für Enterprise-KI vereint. Diese Arbeit läuft bereits, und wir werden uns direkt bei Ihnen melden.
Sie erhalten eine einheitliche Plattform für die Zukunft: für Ihr produktives ML sowie für die Agenten, LLMs und Tools, die Sie darum herum aufbauen – ganz nach Ihren Anforderungen und in Ihrem Zeitplan.
Was das für TrueFoundry-Kunden bedeutet
Zu den Kunden von TrueFoundry zählen einige der weltweit größten Unternehmen – darunter Mastercard, Cargill, Cox Communications, Synopsys, ResMed, Siemens Healthineers, Pfizer und Automation Anywhere –, die bereits heute geschäftskritische KI über das Gateway betreiben. Gemeinsam verarbeiten sie über eine Billion Token pro Tag. Seldon-Kunden befinden sich in genau derselben Kategorie, und die Branchen, in denen Seldon gereift ist, helfen uns, unsere Enterprise-Abdeckung weiter auszubauen.
Für unsere bestehenden Kunden ändert sich durch diese Übernahme nichts – sie profitieren sogar davon. Die führenden Unternehmen, die von Seldon zu uns stoßen, bringen tiefgreifendes, branchenspezifisches Fachwissen mit, das direkt in unsere Roadmap einfließt. Da sie nun TrueFoundry-Kunden werden, verbessert diese Erfahrung die Plattform für alle und bringt uns unserem Ziel, die zentrale Steuerungsebene für Enterprise-KI zu sein, einen großen Schritt näher.
Die Steuerungsebene für Enterprise-KI
Als wir TrueFoundry gründeten, waren wir überzeugt, dass Unternehmen einen zentralen Ort benötigen, um ihre KI zu entwickeln, bereitzustellen und zu steuern – statt einer Ansammlung unzusammenhängender Tools. Mit dem Wandel von prädiktiven Modellen hin zu autonomen Agenten hat sich dieser Bedarf noch verschärft. Unsere Vision war es schon immer, TrueFoundry zur zentralen Steuerungsebene für Enterprise-KI zu machen.
Die Übernahme des Seldon-Geschäfts ermöglicht es uns, diese Vision auf deren Kunden auszuweiten und bringt uns alle diesem Ziel näher. Dies wird nicht unser letzter Schritt sein. Der Markt entwickelt sich rasant, und die Unternehmen, mit denen wir zusammenarbeiten, können es sich nicht leisten, auf eine Verlangsamung zu warten. Wir auch nicht.
Seldon-Kunden: wir werden uns direkt bei Ihnen melden, aber falls Sie jetzt schon Fragen haben, sprechen Sie mit unserem Team.
Sie evaluieren TrueFoundry? Hier erfahren Sie, wie das in unsere weitere Planung passt – vereinbaren Sie einen Gesprächstermin.
TrueFoundry AI Gateway bietet eine Latenz von ~3—4 ms, verarbeitet mehr als 350 RPS auf einer vCPU, skaliert problemlos horizontal und ist produktionsbereit, während LiteLM unter einer hohen Latenz leidet, mit moderaten RPS zu kämpfen hat, keine integrierte Skalierung hat und sich am besten für leichte Workloads oder Prototyp-Workloads eignet.












.png)
.png)
.png)
.png)

.webp)
.webp)
.png)

.png)
.png)
.png)
.png)
.webp)
.webp)

.png)
.png)





