Ankündigung der 19 Mio. USD Series A: Skalierung von AI Deployment mit autonomen Agenten auf Autopilot

Auf Geschwindigkeit ausgelegt: ~ 10 ms Latenz, auch unter Last
Unglaublich schnelle Methode zum Erstellen, Verfolgen und Bereitstellen Ihrer Modelle!
- Verarbeitet mehr als 350 RPS auf nur 1 vCPU — kein Tuning erforderlich
- Produktionsbereit mit vollem Unternehmenssupport
Heute freuen wir uns sehr, einen wichtigen Meilenstein bekannt zu geben: TrueFoundry hat 19 Millionen US-Dollar in einer Series-A-Finanzierungsrunde unter der Führung von Intel Capital gesammelt, unter Beteiligung der bestehenden Investoren Peak XV (ehemals Sequoia India) und Eniac Ventures.
Wir freuen uns außerdem, Jump Capital als neuen Investor begrüßen zu dürfen, zusammen mit Angel-Investoren wie Gokul Rajaram (Product Leader, DoorDash & ex-Google), Mohit Aron (Gründer, Nutanix & Cohesity), Cyan Banister (Early-Stage-Investor, Uber & SpaceX), Ankit Sobti (Mitgründer, Postman) und Lenny Rachitsky (Autor, Lenny’s Newsletter und Lenny’s Podcast) sowie Führungskräften von Fortune 1000-Unternehmen.

Diese Finanzierung kommt zu einer Zeit explosionsartigen Wachstums, in der TrueFoundry eine Vervierfachung seiner Kundenbasis im Jahresvergleich erzielt hat. Dieser Meilenstein stärkt unsere Dynamik und festigt unsere Mission, die AI-Infrastruktur neu zu definieren und AI Deployment nahtlos, skalierbar und automatisiert zu gestalten.
AI hat sich rasch von isolierten Foundation-Modellen zu hochkomplexen, miteinander vernetzten Ökosystemen entwickelt – was die Berkeley AI Research als „Compound AI“ bezeichnet. Diese Compound AI Systems bestehen nicht mehr nur aus einem einzelnen Modell, sondern umfassen mehrere Modelle, externe Tools, Vektordatenbanken, Anwendungs-Frameworks und Cloud-Umgebungen, die zusammenarbeiten.
Im Gegensatz zum traditionellen Machine Learning (ML), bei dem Data Scientists Modelle in langen, iterativen Zyklen entwickelten, wird die heutige Generative AI (GenAI)-Landschaft von Entwicklern und AI Engineers angetrieben. Da vortrainierte Modelle direkt verfügbar sind, können sie AI-Lösungen schneller als je zuvor iterieren, feintunen und bereitstellen. Dieser Wandel hat es AI-Anwendungen ermöglicht, über Branchen hinweg zu skalieren, was AI zugänglicher, anpassungsfähiger und leistungsfähiger macht.
Mit der Erweiterung der AI-Fähigkeiten steigt jedoch auch die Komplexität bei der Bereitstellung und Verwaltung dieser Systeme. Die eigentliche Herausforderung besteht nicht nur darin, bessere Modelle zu bauen – sondern darin, sie nahtlos in Unternehmens-Workflows zu integrieren, die Infrastruktur zu optimieren und sicherzustellen, dass sie effizient im großen Maßstab laufen.
AI Deployment im großen Maßstab auf AutoPilot
Wir glauben, dass die Zukunft der AI dieser neuen Generation von Full-Stack-Entwicklern gehört – Creators, die Compound-AI-Anwendungen unabhängig bauen, testen, bereitstellen und skalieren können. Dies werden die Menschen sein, die Silos aufbrechen und die Lücke zwischen DevOps und MLOps schließen.
Stellen Sie sich eine Welt vor, in der AI und Software auf eine einheitliche Self-Service-Weise ausgeliefert und verwaltet werden. Die Infrastruktur wird unsichtbar, und alles – Frontend, Backend, Daten, Modelle und Tools – fügt sich in perfekter Harmonie zusammen. Der Aufstieg von Compound-AI-Anwendungen beschleunigt diese Vereinheitlichung und ermöglicht es Systemen, kohärenter als je zuvor zusammenzuarbeiten.
Bei TrueFoundry widmen wir uns der Aufgabe, die Grenzen beim Management von AI-Infrastruktur zu verschieben, Komplexität zu beseitigen und Geschwindigkeit sowie Skalierbarkeit für alle freizusetzen.
Wenn wir in die Zukunft blicken, sehen wir eine Welt, in der Tausende von AI-Agenten mit Menschen interagieren, um Aufgaben zu erledigen. In dieser Welt sollten nicht die Menschen der Flaschenhals sein. Stattdessen stellen wir uns eine zentrale Plattform vor, auf der AI die AI verwaltet – ein selbsterhaltendes Ökosystem, das auf Autopilot läuft und es Unternehmen ermöglicht, sich auf Innovation statt auf Infrastruktur zu konzentrieren.
TrueFoundry bietet eine Plattform, die es Unternehmen ermöglicht, GenAI-Anwendungen nahtlos über Cloud- und On-Premise-Infrastrukturen hinweg zu bauen, bereitzustellen und zu verwalten. Entwickelt für Geschwindigkeit, Skalierbarkeit und Sicherheit, ermöglicht TrueFoundry AI-Teams die effiziente Verwaltung einer wachsenden Palette von Modellen, die Rationalisierung von Entwicklung und Tests, die Optimierung von Compute-Ressourcen beim Deployment und die Aufrechterhaltung eines nahtlosen Betriebs durch zentrale Governance.
Unternehmen dabei helfen, das volle Potenzial von AI auszuschöpfen
Einige der zukunftsorientiertesten Unternehmen der Welt wie NVIDIA, Resmed, Siemens Healthineers, Automation Anywhere usw. nutzen TrueFoundry bereits, um ihr AI Deployment zu rationalisieren und die Effizienz zu maximieren:
- NVIDIA: Angesichts einer enormen Nachfrage nach GPUs benötigte NVIDIA eine Möglichkeit, die Cluster-Auslastung zu optimieren und gleichzeitig eine nahtlose Developer Experience zu gewährleisten. Mit TrueFoundry bauten sie ein Multi-Agenten-System, das die GPU-Allokation dynamisch verwaltet und so sowohl die Performance als auch die Zugänglichkeit verbessert.
- Siemens Healthineers: Die konsistente Bereitstellung von AI-Modellen über mehrere Geschäftsbereiche hinweg stellte eine erhebliche Herausforderung dar. Die Plattform von TrueFoundry bot eine zentrale Infrastrukturlösung, die das Management von Vektordatenbanken, Pipelines und Modellwechseln vereinfachte und so ein schnelleres und skalierbareres AI Deployment ermöglichte.
Dies ist nur ein kleiner Einblick darin, wie TrueFoundry Unternehmen dabei unterstützt, das volle Potenzial von AI auszuschöpfen – ohne die Komplexität der Infrastrukturverwaltung.
Wie geht es weiter?
Diese Finanzierung markiert erst den Anfang einer spannenden Reise. Wir bleiben uneingeschränkt auf Produktinnovationen fokussiert, um die AI-Infrastruktur noch zugänglicher, intuitiver und leistungsfähiger zu machen.
Aber bei Innovation geht es nicht nur um Technologie – es geht um Menschen. Wir suchen ehrgeizige, talentierte Köpfe, die die Zukunft des AI Deployment mitgestalten wollen. Wenn Sie gerne komplexe Herausforderungen lösen, mit neuester Technologie arbeiten und etwas wirklich Wirkungsvolles aufbauen möchten, ist jetzt Ihr Moment. Bauen Sie gemeinsam mit uns. Bewerben Sie sich hier oder schreiben Sie uns an careers@truefoundry.com.
TrueFoundry AI Gateway bietet eine Latenz von ~3—4 ms, verarbeitet mehr als 350 RPS auf einer vCPU, skaliert problemlos horizontal und ist produktionsbereit, während LiteLM unter einer hohen Latenz leidet, mit moderaten RPS zu kämpfen hat, keine integrierte Skalierung hat und sich am besten für leichte Workloads oder Prototyp-Workloads eignet.


















%20(28).webp)



.webp)
.webp)
.png)

.png)
.png)
.png)
.png)
.png)
.webp)
.webp)






