Van hosteldorm tot Seed-financiering: Een enorme stap richting onze toekomst!

Gebouwd voor snelheid: ~10ms latentie, zelfs onder belasting
De razendsnelle manier om je modellen te bouwen, volgen en implementeren!
- Verwerkt 350+ RPS op slechts 1 vCPU — geen tuning nodig
- Productieklaar met volledige enterprise-ondersteuning
Vandaag delen we met de wereld de eerste van hopelijk vele mijlpalen in de reis van TrueFoundry. We zijn blij te kunnen aankondigen dat we onze Seed-ronde van US$ 2,3 miljoen hebben opgehaald, geleid door Sequoia India en Southeast Asia's Surge en aangevuld door Eniac Ventures en andere prominente Angels zoals AngelList Co-founder Naval Ravikant, Deutsche Bank Global CIO Dilip Khandelwal, Head of GitHub India Maneesh Sharma, Greenhouse Software CTO Mike Boufford en Kaggle Founder Anthony Goldbloom, onder anderen.
Elk bedrijf wordt een databedrijf
Hoewel we ontzettend trots zijn op de reis die we tot nu toe hebben afgelegd om dit punt te bereiken, is het pas de eerste grote stap in een reis van 1000 mijl die wij drieën, samen met ons Rockstar-team, zullen moeten afleggen voordat we kunnen zeggen dat we echt zijn geslaagd. Dat data het nieuwe goud is, is een oud cliché geworden, maar ondanks dat zien we nog steeds niet dat iedereen het volledige potentieel ervan benut. Machine learning biedt enorme kansen voor bedrijven, maar de ontwikkeling en lancering van ML-modellen is een tijdsintensief en complex proces voor software engineers, ML engineers en data scientists. Het gevolg is dat bijna 90% van de ML-modellen uiteindelijk niet in productie komt. Van de modellen die wel worden uitgerold, faalt 50% door het ontbreken van monitoringsystemen en moet 30% worden teruggedraaid vanwege schaalbaarheids- en latency-problemen die tijdens de datatrainingsfase vaak over het hoofd worden gezien. Grote bedrijven kunnen deze kloof overbruggen door grote, hoogwaardige ML-platformteams in te zetten om ML-modellen te ontwerpen en te lanceren, maar voor kleinere bedrijven en startups is het minder haalbaar om dergelijke hoge investeringen te doen tijdens het opbouwen van hun bedrijf.
De wereld heeft een eenvoudigere oplossing nodig
Tijdens onze tijd bij Facebook realiseerden we ons dat kleinere bedrijven in de markt aanzienlijk meer tijd nodig hadden om machine learning-modellen te bouwen en uit te rollen in vergelijking met grote techbedrijven. Daarom is TrueFoundry ontstaan vanuit het idee dat geen enkel bedrijf – groot of klein – de kansen van machine learning zou moeten mislopen. Met ons geautomatiseerde platform kunnen data scientists en engineers machine learning-modellen uitrollen met de snelheid en volwassenheid van big tech, waardoor hun productiedoorlooptijden worden verkort van enkele weken tot een paar uur. Data is het nieuwe goud en we willen bedrijven in staat stellen om machine learning sneller te gebruiken en meer bedrijfswaarde te genereren. Ons doel is om herhalende taken in de ML-pipeline, zoals infrastructuur en deployments, te automatiseren, zodat data scientists en ML engineers zich kunnen richten op waardevollere, creatievere taken. Dit stelt bedrijven in staat om bestaande modellen continu te upgraden en nieuwe uit te brengen om een concurrentievoordeel te behalen. TrueFoundry heeft als missie om Machine Learning-productie en -monitoring te democratiseren om zo positieve waarde te leveren aan iedereen.
De grootste uitdaging bij het bereiken van dit resultaat zijn de heterogene vereisten van verschillende organisaties, afhankelijk van het volwassenheidsniveau van hun ML-ontwikkelingsworkflows - en dat is waar de meeste bestaande producten falen. Als een startup bijvoorbeeld hun eerste model in productie probeert te brengen, is het enige dat voor hen telt hoe je je model snel uitrolt, zelfs zonder je zorgen te maken over best practices. Aan de andere kant geeft een scale-up met meerdere teams die Machine Learning-modellen bouwen wél om best practices rondom tracking, versioning, scaling, CI/CD en monitoring. De meeste producten slagen er niet in om deze balans te vinden: ze zijn óf te ingewikkeld om in te richten voor een ML Developer, óf ze veroorzaken te veel technische schuld voor een relatief volwassen organisatie.
Onze aanpak
Van Amazon Web Services (AWS), Google Cloud en Tensorflow tot Kubernetes: wij zijn platformonafhankelijk en integreren eenvoudig met je bestaande stack voor een naadloze implementatie. Ons platform stelt ML-teams in staat om hierdoor 10x sneller te werken. We maken het heel eenvoudig om aan de slag te gaan (<5 min insteltijd) en modellen in productie te nemen, maar naarmate hun behoeften groeien, ondersteunt het platform al versiebeheer, monitoring-inrichting, CI/CD, Auto-scaling enz., wat snel kan worden ingeschakeld. We zien onze oplossing als: starten zoals Heroku & schalen zoals AWS.
Het Rockstar-team
Uiteindelijk klinken al deze dingen misschien goed op papier, maar het bouwen en uitvoeren ervan is een heel ander verhaal. Daarin zijn we ontzettend bevoorrecht geweest om een aantal van de beste talenten in het domein aan ons te binden die dezelfde visie delen als wij. Zij hebben ervoor gezorgd dat we trouw blijven aan onze visie en het allerbeste bouwen wat we kunnen.
Je kunt meer over dit nieuws lezen op
TechCrunch
Economic Times
Business Insider
Inc42
Klinkt dit alles interessant voor jou? Neem contact met ons op via anuraag@truefoundry.com en we kunnen een praatje maken!
TrueFoundry AI Gateway levert een latentie van ~3–4 ms, verwerkt 350+ RPS op 1 vCPU, schaalt moeiteloos horizontaal en is klaar voor productie, terwijl LiteLLM last heeft van hoge latentie, moeite heeft boven een gemiddeld aantal RPS, geen ingebouwde schaling heeft en het meest geschikt is voor lichte workloads of prototypes.















.png)



.webp)



.webp)








.webp)





