TrueFoundry: 2022 eindejaarsoverzicht

31 dec 2022: Het is geweldig hoe introspectief & enthousiast ❣ ik me vandaag voel! Misschien komt het doordat het einde en begin van een jaar de speciale kracht hebben om ons leven van een reset & refresh-knop te voorzien. Maar hoe meer ik erover nadenk, hoe meer ik me realiseer dat er niets fundamenteels is aan het begin en einde van een jaar. Het is gewoon een willekeurige, door de mens gemaakte cyclus en idealiter hebben we het zelf in de hand om ons fris te voelen aan het begin van een maand, een week, een dag of een uur — of wat dan ook daartussenin! Een les die ik zal proberen mee te nemen naar 2023!

Met dat gezegd voor 2023, wil ik beginnen met klappen 👏 & bewondering voor 2022 om wat voor een fantastisch jaar het is geweest voor Machine Learning & MLOps! Er is de afgelopen tien jaar een ongekende vooruitgang geweest in AI, maar niets heeft de opwinding onder het grote publiek zo doen ontbranden als ChatGPT- zozeer zelfs dat Google code rood uitriep! Bovendien zag 2022 Stable Diffusion van Stability AI, Geoffrey Hinton’s feed forward-training, door AI gegenereerde matrixvermenigvuldigingsalgoritmen, 600M potentiële eiwitsyntheses door Meta AI, bnb-int8 voor de meeste HuggingFace-algoritmen, en Ray dat 1M modellen in recordtijd trainde- wat een fenomenaal jaar!

Aan de andere kant heeft TrueFoundry in 2022 een enorm impactvolle start gehad- van het aannemen van de eerste engineer in het team, tot het coderen van onze eerste rudimentaire op Streamlit gebaseerde product-UI, het aannemen van een team van wereldklasse, het bouwen van een multi-cloud Machine Learning-deploymentplatform, tot het werken met meerdere $ 50B+ ondernemingen om hun productie-uitdagingen op te lossen! Ik ben ongelooflijk trots op ons team voor het behalen van zo'n enorme prestatie in slechts 1 jaar! Ik neem graag even de tijd om terug te blikken ✍ op dit prachtige eerste jaar voor het TrueFoundry-team.

Team

Wat is een betere manier om te beginnen dan te praten over ons team. In één jaar tijd zijn we gegroeid naar 15 technische en zakelijke professionals met achtergronden bij onder meer Facebook, Amazon, Postman, Gojek & McKinsey. Ons team is verspreid over India, San Francisco & Parijs met onze eerste kantoorruimte in Bengaluru! We hebben deze november onze eerste bedrijfssessie gehad: een week lang samenwonen, ideeën uitwisselen, reflecteren & ontspannen!

Adoptie

Hoewel TrueFoundry zich nog in een heel vroeg stadium bevindt, hebben we het geluk gehad om ons platform mee te bouwen met geweldige designpartners die ons helpen met concrete, actiegerichte feedback over hoe verschillende onderdelen van ons platform ontworpen moeten worden. Onze samenwerking met hen heeft ons in staat gesteld om betaalde proofs-of-concept te winnen bij grote ondernemingen en snelgroeiende startups. Ik kan hun namen nog niet noemen, maar we koesteren het voorrecht om met deze bedrijven te mogen werken!

Daarnaast danken we de startups en de ontwikkelaarscommunity die ons hebben geholpen met waardevolle input door vroege gebruikers van ons product te zijn!

Product

Ter herinnering voor iedereen: TrueFoundry bouwt een PaaS waarmee ontwikkelaars hun machine learning-modellen kunnen deployen & monitoren met de snelheid van grote techbedrijven, waardoor hun productietijdlijnen worden teruggebracht van weken naar minuten. In één jaar tijd hebben we het volgende gebouwd-

• een cloud-agnostisch platform bovenop Kubernetes waarmee mensen hun modellen kunnen deployen
• we hebben drie gebruikersinterfaces voor deployments uitgebracht- Python-API's voor productie, YAML-configuratie voor CI/CD, en een GUI voor experimenten
• intuitieve infrastructuurprovisioning vanuit één UI die ontwikkelaars onafhankelijk maakt en het DevOps-team in staat stelt de kosten beter te optimaliseren
• we hebben een op Terraform gebaseerde one-click oplossing gebouwd om het gehele platform te deployen op alle 3 grote cloudproviders- AWS, GCP & Azure
• volledige & geautomatiseerde logging en monitoring voor uw services
• modelmonitoring, datamonitoring en drift-tracking dashboards
• volledige experiment-tracking met artefactbeheer

Financiering

TrueFoundry is trots en dankbaar voor de steun en het vertrouwen van vooraanstaande investeerders zoals Sequoia, Eniac & Naval Ravikant. Lees een TechCrunch-artikel over onze aankondiging van de seed-financiering. Daarnaast hebben we het geluk de steun te krijgen van angels en adviseurs zoals-

• Oprichter @ Kaggle (verkocht aan Google — Anthony Goldbloom),
• Oprichter @ Rubrik (Soham Mazumdar)
• Builders Fund (Bouwers van het ML-platform bij Salesforce),
• CTO @ Greenhouse (Mike Boufford)
• Chief Architect van het FBLearner-platform (Aditya Kalro)
• CTO/Oprichter @ Productiv (Ashish Aggarwal)
• Oprichters @ Whatfix (Khadim Bhatti & Vara Kumar)
• CIO @ Deutsche Bank (Dilip Khandelwal)
• CTO/Oprichter @ ClearCo (Satwik Seshasai)
• CTO @ AlphaSense (Raj Neervannan)
• Sr. ML Architect @ SnowFlake (Tal Shakhed) en
• Heads of ML bij SentiLink, Migo, Upwork

Integraties

Bij TrueFoundry bouwen we voor de gebruikers en het doel is om de gebruikers tegemoet te komen waar ze zich bevinden. Om deze reden hebben we verschillende tools, libraries, frameworks & platforms geanalyseerd die op grote schaal worden gebruikt en hebben we integraties gebouwd met veel van de populaire opties-

• Machine Learning Libraries- tensorflow, pytorch, sklearn, xgboost, huggingface, lightgbm, mlflow etc.
• Model Serving Frameworks: TFServe, TorchServe
• Cloud Providers: AWS, GCP, Azure
• Code Versioning: GitHub, BitBucket
• CI/CD: Github Actions
• Docker Registries: DockerHub, AWS Container Registry, Google Container Registry
• Secret Management: AWS Parameter Store, Google Secrets Manager
• Dashboarding tools: Gradio, StreamLit
• Kubernetes

Events & Community

Hoewel we hiermee pas net zijn begonnen, zijn dit enkele fantastische updates-

• Abhishek sprak op het 1729.world event van Fractal en Analytics Vidhya, samen met sprekers als Rajat Monga (Oprichter van TensorFlow), Sreenivas (Oprichter van Fractal). Hier is de link naar de Presentatie.
• Nikunj presenteerde op TechCrunch Disrupt 2022- startup BattleField
• Daarnaast hebben we een actieve slack community. Word gerust lid!
• Tientallen mensen uit de community hebben bijgedragen aan TrueFoundry en de topprojecten zijn hier beschikbaar.
• Enkele van onze populairste contentstukken zijn- Time killed my ML model, An impactful ML Model - how hard can it be?, Kubernetes for data scientists - Hosting predictions

Reflecties

Terwijl we terugblikken op dit geweldige jaar, hebben we als oprichters ook een stap teruggedaan om na te denken en te reflecteren op wat er goed ging en wat er minder goed ging. We delen onze inzichten, missers en successen met jullie allemaal-

Inzichten

1. De traditionele aanpak van werken met design partners voordat het product gebouwd is, werkt niet goed wanneer je devtools bouwt die te maken hebben met production infrastructure. We hebben de eerste 3–4 maanden hiermee doorgebracht.
2. Als een infra product X tijd kost om te bouwen, kost het 2X de tijd om te testen en te releasen. Het onderschatten van de complexiteit was een fout van onze kant die de planning van de productreleases heeft verstoord.
3. Ga geen design partnership aan met bedrijven die ver afstaan van je doelmarkt voor het gemak van adoptie. We hebben een paar maanden gewerkt met kleinere bedrijven, terwijl ons product bedoeld is voor de upmarket en enterprise organisaties. Achteraf gezien was dit een beginnersfout.

Missers

We hebben een paar fouten gemaakt in onze uitvoering die we moeten bijsturen:

1. We hebben veel tijd besteed aan het praten met besluitvormers binnen bedrijven en het verzamelen van hun feedback op het product, maar uiteindelijk zijn de gebruikers van ons platform developers. We moeten een sterker kanaal bouwen om in contact te blijven met developers!
2. Als bedrijf hebben we niet genoeg tijd besteed aan het evangeliseren van ons platform, het deelnemen aan conferenties, het geven van presentaties en het bijwonen van community events.
3. Het is begrijpelijk dat onze productreis lang is. We hebben het niet goed gedaan met het opdelen in releasebare mijlpalen. Door dit wel te doen, zouden onze gebruikers meer betrokken blijven bij het product.

Prestaties

1. We hebben op een enorm hoog tempo een team van zeer hoge kwaliteit opgebouwd. Vrijwel elk lid van ons team, inclusief de oprichters, is van mening dat dit het team is met de hoogste talentdichtheid waarmee ze ooit hebben gewerkt, ondanks dat ze eerder met zeer hoogwaardige teams hebben gewerkt.
2. We zijn trots op de kwaliteit van het product en de snelheid van uitvoering. We zeggen dit op basis van onze persoonlijke ervaring en wat we horen van onze klanten.
3. Uitstekende customer support en responstijd- op bijna elk bericht van onze klanten is binnen enkele minuten gereageerd!

Het komende jaar 2023

Hoewel 2022 een plezierig en fundamenteel jaar was voor het TrueFoundry platform, wordt 2023 nog veel spannender- naarmate het platform aan meer gebruikers wordt geleverd en we ons voorbereiden om uit de private beta te gaan. We verwelkomen 2023 met het enthousiasme van een kind dat aan een nieuw schooljaar begint. We zijn enthousiast om in 2023 opnieuw te innoveren, te bouwen, te leren en te groeien, en een positieve impact op de wereld te maken door AI voor iedereen toegankelijk te maken.

We wensen jullie allemaal een heel gelukkig nieuwjaar! Van Nikunj, Anuraag, Abhishek & het gehele TrueFoundry team.

TrueFoundry is een ML Deployment PaaS op Kubernetes om developer workflows te versnellen, terwijl ze volledige flexibiliteit behouden bij het testen en deployen van modellen, en tegelijkertijd volledige beveiliging en controle garanderen voor het Infra team. Via ons platform stellen we Machine Learning-teams in staat om binnen 15 minuten modellen te deployen en te monitoren met 100% betrouwbaarheid, schaalbaarheid en de mogelijkheid om binnen seconden te rollbacken - waardoor ze kosten besparen en modellen sneller naar productie brengen, wat leidt tot echte realisatie van bedrijfswaarde.