TrueFoundry: Retrospectiva de 2022

Dec 31, 2022: It’s amazing how introspective & excited ❣ I am feeling today! Maybe, because, year ends and beginnings have this special power that provide a reset & refresh button to our lives. However, the more I think about it the more I reflect that there is nothing fundamental about a year beginning and ending. It’s just an arbitrary man-made cycle and ideally, it is in our control to feel refreshed at the onset of a month, a week, a day or an hour — or anything in between for that matter! One learning I will try to carry in 2023!

With that set for 2023, I want to start by clapping 👏 & admiring 2022 for what an amazing year it has been for Machine Learning & MLOPs! There’s been an unprecedented advancement in AI in the last one decade but nothing has created the kind of excitement amongst common people as ChatGPT has- so much so, that Google declared code red! Besides, 2022 has seen Stable Diffusion from stability AI, Geoffrey Hinton’s feed forward training, AI generated matrix multiplication algorithms, 600M potential protein synthesis by Meta AI, bnb-int8 for most HuggingFace algorithms, Ray training 1M models in record time- such a phenomenal year!

On the other hand, in 2022, TrueFoundry has had such an impactful start- from hiring the first engineer on the team, to coding our rudimentary Streamlit based product UI, to hiring a world-class team, to building a multi-cloud Machine Learning deployment platform, to working with multiple $50B+ enterprises solving their production challenges! I am incredibly proud of our team for achieving such a huge feat in just 1 year! I would love to take a step back and reminisce ✍ on this beautiful first year for the TrueFoundry Team.

Team

What better way to start than talking about our team. In one year, we have grown to 15 technical and business people coming in from various backgrounds like Facebook, Amazon, Postman, Gojek & McKinsey. Our team is distributed across India, San Francisco & Paris with our first office-space in Bengaluru! We did our first company retreat this November which was one week of staying together, ideating, reflecting & playing!

Adoption

Although TrueFoundry is very early in its journey, we have been fortunate to co-build our platform with amazing design partners who are helping us with concrete actionable feedback on how different parts of our platform should be designed. Our work with them has allowed us to win paid proofs-of-concept with large enterprises and growth-stage startups. I am not ready to take their names just yet, but, we cherish the privilege of working with these companies!

Besides, we thank the startups and the developer community who have helped us with generous inputs by being early adopters of our product!

Product

Just a reminder for everyone, TrueFoundry is building a PaaS that enables developers to deploy & monitor their machine-learning models at the speed of big tech companies, cutting their production timelines from weeks to minutes. In one year, we have built-

• a cloud-agnostic platform on top of Kubernetes that allows people to deploy their models
• we have extended three user interfaces for deployments- python APIs for production, YAML configuration for CI/CD, GUI for experimentation
• intuitive infrastructure provisioning from one UI that makes the developers independent and allows the DevOps team to optimise cost better
• we have built terraform based one-click solution to deploy the entire platform on all 3 major cloud providers- AWS, GCP & Azure
• complete & automated logging and monitoring for your services
• model monitoring, data monitoring and drift-tracking dashboards
• complete experiment tracking with artefact management

Funding

TrueFoundry is proud and fortunate to have received the support and trust of marquee investors like Sequoia, Eniac & Naval Ravikant. Read a techcrunch article covering our seed funding announcement. Besides, we are fortunate to receive the support of angels and advisors like-

• Founder @ Kaggle (sold to Google — Anthony Goldbloom),
• Fundador @ Rubrik (Soham Mazumdar)
• Builders Fund (Construtores da plataforma de ML na Salesforce),
• CTO @ Greenhouse (Mike Boufford)
• Arquiteto Chefe da plataforma FBLearner (Aditya Kalro)
• CTO/Fundador @ Productiv (Ashish Aggarwal)
• Fundadores @ Whatfix (Khadim Bhatti & Vara Kumar)
• CIO @ Deutsche Bank (Dilip Khandelwal)
• CTO/Fundador @ ClearCo (Satwik Seshasai)
• CTO @ AlphaSense (Raj Neervannan)
• Arquiteto Sênior de ML @ SnowFlake (Tal Shakhed) e
• Chefes de ML em SentiLink, Migo, Upwork

Integrações

Na TrueFoundry, estamos construindo para os usuários e o objetivo é encontrá-los onde eles estão. Por esta razão, analisamos várias ferramentas, bibliotecas, frameworks e plataformas amplamente utilizadas e desenvolvemos integrações com muitas das mais populares -

• Bibliotecas de Machine Learning- tensorflow, pytorch, sklearn, xgboost, huggingface, lightgbm, mlflow etc.
• Frameworks de Servir Modelos: TFServe, TorchServe
• Provedores de Nuvem: AWS, GCP, Azure
• Versionamento de Código: GitHub, BitBucket
• CI/CD: Github Actions
• Registros Docker: DockerHub, AWS Container Registry, Google Container Registry
• Gerenciamento de Segredos: AWS Parameter Store, Google Secrets Manager
• Ferramentas de Dashboard: Gradio, StreamLit
• Kubernetes

Eventos e Comunidade

Embora tenhamos acabado de começar nesta frente, algumas atualizações maravilhosas aqui incluem -

• Abhishek falou no 1729.world evento da Fractal e Analytics Vidhya, ao lado de palestrantes como Rajat Monga (Fundador do TensorFlow), Sreenivas (Fundador da Fractal). Aqui está o link para a Apresentação.
• Nikunj apresentou-se no TechCrunch Disrupt 2022- startup BattleField
• Além disso, contamos com uma comunidade ativa no Slack. Participe!
• Dezenas de pessoas da comunidade contribuíram para a TrueFoundry e os principais projetos estão disponíveis aqui.
• Alguns dos nossos conteúdos mais populares incluem- O tempo matou o meu modelo de ML, Um modelo de ML impactante - será assim tão difícil?, Kubernetes para cientistas de dados - Hospedando previsões

Reflexões

Ao relembrar este ano incrível, nós, como fundadores, também fizemos uma pausa para pensar e refletir sobre o que correu bem e o que não correu tão bem. Partilhamos os nossos aprendizados, falhas e conquistas com todos vocês-

Aprendizados

1. A abordagem tradicional de trabalhar com parceiros de design antes de o produto ser construído não funciona bem quando se está a construir ferramentas de desenvolvimento que lidam com infraestrutura de produção. Passámos os primeiros 3-4 meses a fazer isto.
2. Se um produto de infraestrutura leva X tempo para ser construído, leva 2X o tempo para testar e lançar. Subestimar a complexidade foi um erro da nossa parte que atrasou os prazos de lançamento do produto.
3. Não faça parcerias de design com empresas que estão longe do seu mercado-alvo para facilitar a adoção. Passamos alguns meses trabalhando com empresas menores, enquanto nosso produto é destinado a mercados de alto padrão e grandes empresas. Em retrospecto, foi um erro de principiante.

Falhas

Cometemos alguns erros na nossa execução que precisamos corrigir:

1. Passamos muito tempo conversando com tomadores de decisão dentro das empresas e obtendo o feedback deles sobre o produto, mas, em última análise, os usuários da nossa plataforma são desenvolvedores. Nós precisamos construir um canal mais forte para nos mantermos conectados com os desenvolvedores!
2. Como empresa, nós não dedicamos tempo suficiente para evangelizar nossa plataforma, participando de conferências, dando palestras e participando de eventos da comunidade.
3. Entende-se que a jornada do nosso produto é longa. Não fizemos um bom trabalho em dividir em marcos de lançamento. Fazer isso faria com que nossos usuários permanecessem mais conectados ao produto.

Conquistas

1. Construímos uma equipe de altíssima qualidade com grande velocidade. Literalmente, todos os membros da nossa equipe, incluindo os fundadores, acreditam que esta é a equipe com a maior densidade de talentos com a qual já trabalharam, apesar de terem atuado em equipes de altíssimo desempenho.
2. Estamos orgulhosos da qualidade do produto e da velocidade de execução. Falamos sobre isso com base em nossa experiência pessoal e no que ouvimos de nossos clientes.
3. Excelente suporte ao cliente e tempo de resposta- quase todas as mensagens de nossos clientes foram respondidas em poucos minutos!

O Ano de 2023

Enquanto 2022 foi um ano divertido e fundamental para a plataforma TrueFoundry, 2023 será ainda mais emocionante – à medida que a plataforma chega a mais usuários e nos preparamos para sair do beta privado. Recebemos 2023 com o entusiasmo de uma criança que começa um novo ano letivo. Estamos entusiasmados para inovar, construir, aprender e crescer, mais uma vez em 2023, e criar um impacto positivo no mundo, tornando a IA acessível a todos.

Desejamos a todos um Feliz Ano Novo! De Nikunj, Anuraag, Abhishek e toda a equipe TrueFoundry.

TrueFoundry é uma PaaS de Implantação de ML sobre Kubernetes para acelerar os fluxos de trabalho dos desenvolvedores, permitindo-lhes total flexibilidade no teste e implantação de modelos, ao mesmo tempo em que garante total segurança e controle para a equipe de Infraestrutura. Através de nossa plataforma, capacitamos as equipes de Machine Learning a implantar e monitorar modelos em 15 minutos com 100% de confiabilidade, escalabilidade e a capacidade de reverter em segundos – permitindo-lhes economizar custos e lançar Modelos em produção mais rapidamente, possibilitando a realização de valor de negócio real.