Créativité, systèmes d'IA et TrueFoundry avec Nikunj Bajaj

Il existe une catégorie particulière de fondateurs qui ne bâtissent pas à partir d'une opportunité, mais d'une expérience profondément vécue. Nikunj Bajaj, cofondateur et CEO de TrueFoundry, fait partie de cette catégorie. Lors d'une récente conversation dans le podcast Arden Labs, il a retracé l'ensemble de son parcours, depuis son enfance à Calcutta jusqu'à la réussite de l'un des concours d'entrée les plus sélectifs de l'Inde, en passant par un confinement lié à la pandémie sur un matelas dans une chambre unique avec ses deux cofondateurs, pour concevoir la société qui allait devenir TrueFoundry.

C'est une histoire qui mérite de prendre le temps d'être écoutée dans son intégralité.

‍

De Calcutta à l'IIT, de l'IIT à Berkeley

Nikunj a grandi dans un foyer modeste et équilibré à Calcutta, le type d'éducation qu'il décrit comme stable et constante : la même maison, les mêmes amis, le même quartier pendant des années. Il n'était pas, de son propre aveu, quelqu'un qui rêvait de l'IIT en grandissant. L'idée lui est venue progressivement, au fil de discussions avec des personnes ayant emprunté cette voie, et grâce à un intérêt croissant pour l'ingénierie et les mathématiques.

Ce qui a suivi, ce sont deux années de préparation intensive au concours d'entrée des IIT d'Inde. Un demi-million d'étudiants passent l'examen chaque année. Seules quelques milliers de personnes sont admises. Nikunj en faisait partie.

À l'IIT Kharagpur, le plus ancien et le plus grand des IIT, il a choisi l'ingénierie d'instrumentation, attiré par la robotique et la promesse de construire des choses qui bougent et réagissent au monde. En dehors des salles de classe, c'est exactement ce qu'il a fait. Son équipe a construit un véhicule terrestre autonome et est devenue la première équipe indienne à représenter le pays lors d'une compétition de robotique aux États-Unis. C'était son premier voyage en Amérique. 

Un stage à UC Berkeley a suivi, obtenu grâce à des recommandations de recherche de conseillers en Israël et en Inde. Ce stage a tout changé. Ses recherches se sont si bien déroulées que son conseiller l'a invité à revenir pour un master. Il y a également rencontré son épouse, arrivée dans le même programme, colocataire de son camarade de laboratoire. Un seul stage, analyse-t-il, a structuré à la fois sa carrière et sa vie.

Les années Meta et l'idée fondamentale qui a tout déclenché

Après avoir terminé son master à Berkeley en 2014, Nikunj a rejoint Reflektion, une entreprise d'IA au service de l'industrie du e-commerce, en tant que l'un des premiers ingénieurs en machine learning. En trois ans et demi, il a évolué jusqu'à diriger l'équipe ML et a construit une plateforme interne de développement de machine learning, ce qui a constitué son premier véritable aperçu du problème d'infrastructure qu'il consacrera plus tard sa carrière à résoudre.

Puis est venu Meta.

Chez Meta, Nikunj a travaillé dans l'équipe d'IA conversationnelle à une époque où l'entreprise investissait massivement dans les modèles basés sur les architectures transformer, la technologie même qui alimentera plus tard ChatGPT et la vague de l'IA générative. Mais au-delà de l'exposition technique, c'est la réalité opérationnelle de la plateforme ML interne de Meta qui est restée gravée dans sa mémoire.

« En tant que développeur individuel chez Meta, je pouvais construire un modèle de machine learning et le lancer moi-même sur 10 000 nœuds sans dépendre de personne d'autre », a-t-il partagé dans le podcast. En dehors de Meta, ce type de capacité n'existait tout simplement pas dans l'écosystème du cloud public. Les entreprises construisaient des applications de machine learning sur des stacks fragmentées et parallèles : une pour le logiciel, une pour le ML, et de plus en plus une troisième pour l'IA générative. L'inefficacité était évidente pour quiconque avait vu l'alternative.

Cette observation est devenue l'hypothèse fondatrice de TrueFoundry : le machine learning finirait par atteindre un point d'inflexion, moment auquel les entreprises auraient d'urgence besoin d'une plateforme d'infrastructure unifiée et verticalisée, très similaire à ce que Meta avait construit en interne. La question n'était pas de savoir si cela se produirait, mais quand.

Une pandémie, un pivot et un nouveau départ

Avant TrueFoundry, il y a eu Enthire. Début 2020, Nikunj et ses deux cofondateurs — Abhishek, qui avait également travaillé chez Meta, et Anurag, qui utilisait le machine learning pour concevoir des stratégies de trading chez WorldQuant — ont quitté leur emploi pour résoudre un autre problème : l'inefficacité des entretiens de recrutement technique.

Le timing, comme le dit Nikunj, n'aurait pas pu être pire (ou plus révélateur !). Ils sont arrivés à Bangalore en mars 2020, quelques jours avant que l'Inde ne soit confinée. N'ayant nulle part où aller, ils ont tous les trois fini par partager une seule pièce dans l'appartement de deux chambres d'un ami pendant des mois, à installer des matelas par terre et à créer une entreprise à partir de zéro.

Enthire a grandi. En un an, ils avaient 40 à 50 clients et avaient été acceptés chez Y Combinator. Mais une conversation clé avec leur partenaire YC — quelqu'un qui avait passé quatre ans et dépensé plus de 35 millions de dollars à construire une entreprise remarquablement similaire avant de rejoindre YC — leur a apporté la validation honnête dont ils avaient besoin : le modèle économique avait un plafond qu'ils ne pourraient pas dépasser. Il était trop intensif en opérations, trop de niche, et peu adapté à trois fondateurs aux profils très techniques.

Ils ont pris la décision de céder l'activité — qui a été acquise par une grande entreprise indienne — et sont revenus à la case départ. La suite s'est appelée TrueFoundry, bâtie sur la vision d'infrastructure que Nikunj et Abhishek conservaient depuis leur passage chez Meta.

Construire la plateforme qui manquait au monde de l'entreprise

TrueFoundry a été fondée fin 2021, plus d'un an avant que ChatGPT ne fasse de l'IA générative un sujet grand public. Cette avance a eu une importance considérable. En effet, la plateforme a été conçue dès le départ avec l'architecture de Meta comme référence, traitant l'IA générative comme un cas particulier du machine learning, et le machine learning comme un cas particulier du logiciel. Elle était déjà capable de prendre en charge les charges de travail des grands modèles de langage lorsque le marché a soudainement exigé exactement cela.

« Lorsque ChatGPT a été lancé, nous n'avons pas eu besoin d'apporter de modifications architecturales fondamentales », a expliqué Nikunj. « Nous pensions le machine learning de manière globale, et la prise en charge des LLM s'est faite par défaut. »

Leur premier grand client entreprise a été l'un des plus grands groupes pharmaceutiques au monde. Depuis, TrueFoundry s'est développée pour atteindre une équipe de près de 100 personnes réparties entre la Bay Area, Boston, Bangalore et Londres. Le produit est passé de sa plateforme initiale de déploiement d'IA — qui permet aux entreprises d'exécuter des modèles et agents personnalisés sur leur propre infrastructure — à l'intégration d'une AI Gateway, un plan de contrôle unifié qui s'intercale au milieu de chaque appel d'API qu'une entreprise effectue vers ses modèles, agents et serveurs MCP.

La passerelle garantit la gouvernance, la conformité et le contrôle des coûts. Elle offre une observabilité complète sur l'ensemble de la stack d'IA. Et elle fonctionne à travers 17 régions à l'échelle mondiale, atteignant un taux de disponibilité supérieur à 99,99 % avec une latence inférieure à cinq millisecondes, tout en gérant des dizaines de milliers de requêtes par seconde pour des applications critiques en production.

Ce qu'il dirait à son soi plus jeune

Interrogé sur le conseil qu'il se donnerait au début de ce parcours, la réponse de Nikunj a été fidèle à son caractère pragmatique.

Faites le travail ingrat, et faites-le d'une manière exceptionnellement bien exécutée.

« Souvent, lorsque nous travaillons sur des sujets stimulants, nous y prenons du plaisir. Et dès que le travail devient un peu moins stimulant, nous commençons à tout remettre en question », a-t-il déclaré. « Mon conseil est le suivant : peu importe ce que vous faites, faites-le si bien que vous soyez fier de ce travail lui-même, même s'il n'était pas passionnant au départ. »

L'effet cumulé de cette approche est, selon lui, sous-estimé. Les gens remarquent une exécution de premier ordre, même sur des tâches banales. Ce sont ces personnes qui souhaitent plus tard revenir travailler avec vous. Votre croissance personnelle et votre écosystème évoluent ensemble.

C'est, à bien des égards, la philosophie qui a traversé chaque chapitre de son histoire : de deux ans de préparation silencieuse à Calcutta, au choix d'un master plutôt que d'un salaire à six chiffres, en passant par la reconstruction à partir de zéro après Enthire, jusqu'à consacrer une année entière à travailler sur l'infrastructure avant que TrueFoundry ne serve sa première charge de travail en production.

Le jeu à long terme, joué avec constance, finit toujours par porter ses fruits.

Écoutez la conversation complète avec Nikunj Bajaj dans le podcast Arden Labs, disponible dès maintenant sur Spotify et Apple Podcasts.