Creativiteit, AI-systemen en TrueFoundry met Nikunj Bajaj

Er is een bepaald type oprichter dat niet bouwt vanuit een opportuniteit, maar vanuit een diepgewortelde, persoonlijke ervaring. Nikunj Bajaj, medeoprichter en CEO van TrueFoundry, is zo'n oprichter. In een recent gesprek in de Arden Labs Podcast schetste hij het volledige traject van zijn reis: van zijn jeugd in Calcutta en het behalen van een van de meest competitieve toelatingsexamens van India, tot een pandemielockdown op een matras in een enkele kamer met zijn twee medeoprichters, waar ze brainstormden over het bedrijf dat uiteindelijk TrueFoundry zou worden.

Het is een verhaal dat beloond wordt als je het helemaal beluistert.

‍

Van Calcutta naar IIT, van IIT naar Berkeley

Nikunj groeide op in een nuchter, bescheiden gezin in Calcutta, een opvoeding die hij omschrijft als stabiel en consistent: jarenlang hetzelfde huis, dezelfde vrienden en dezelfde buurt. Hij was, naar eigen zeggen, niet iemand die er als kind van droomde om naar IIT te gaan. Het idee ontstond geleidelijk, door gesprekken met mensen die dat pad al hadden bewandeld, en door een groeiende interesse in techniek en wiskunde.

Wat volgde, waren twee jaar van intensieve voorbereiding op het toelatingsexamen voor de IIT's in India. Elk jaar doen een half miljoen studenten mee aan dit examen. Slechts enkele duizenden worden toegelaten. Nikunj was een van hen.

Aan het IIT Kharagpur, de oudste en grootste van de IIT's, koos hij voor instrumentation engineering, aangetrokken door robotica en de belofte om dingen te bouwen die bewogen en reageerden op de wereld. Buiten het klaslokaal deed hij precies dat. Zijn team bouwde een autonoom grondvoertuig en werd het eerste team uit India dat het land vertegenwoordigde bij een roboticawedstrijd in de Verenigde Staten. Het was zijn eerste reis naar Amerika. 

Een stage aan UC Berkeley volgde, verkregen via onderzoeksaanbevelingen van adviseurs in zowel Israël als India. Die stage veranderde alles. Zijn onderzoek verliep zo goed dat zijn begeleider hem uitnodigde om terug te keren voor een masteropleiding. Hij ontmoette er ook zijn vrouw, die via hetzelfde programma was gekomen — haar kamergenoot was zijn labgenoot. Eén stage, zo blikt hij terug, regelde zowel zijn carrière als zijn privéleven.

De Meta-jaren en het inzicht waar het allemaal mee begon

Na het afronden van zijn master aan Berkeley in 2014 trad Nikunj als een van de allereerste machine learning engineers in dienst bij Reflektion, een AI-bedrijf voor de e-commerce-industrie. In drieënhalf jaar tijd klom hij op tot leider van het ML-team en bouwde hij een intern ontwikkelaarsplatform voor machine learning op — zijn eerste echte blik op het infrastructuurprobleem dat hij later in zijn carrière zou oplossen.

Toen kwam Meta.

Bij Meta werkte Nikunj in het conversational AI-team in een periode waarin het bedrijf sterk in zette op transformer-gebaseerde modellen, dezelfde technologie die later ChatGPT en de generatieve AI-golf zou aandrijven. Maar naast de technische ervaring was het vooral de operationele realiteit van Meta's interne ML-platform die hem bijbleef.

"Als individuele ontwikkelaar bij Meta kon ik zelf een machine learning-model bouwen en het lanceren op 10.000 nodes, zonder afhankelijk te zijn van iemand anders," deelde hij in de podcast. Buiten Meta bestond zo'n functionaliteit simpelweg niet in het publieke cloud-ecosysteem. Bedrijven bouwden machine learning-toepassingen op gefragmenteerde, parallelle stacks: één voor software, één voor ML en in toenemende mate een derde voor generatieve AI. De inefficiëntie was overduidelijk voor iedereen die het alternatief had gezien.

Die observatie werd de oprichtingshypothese van TrueFoundry: dat machine learning uiteindelijk een kantelpunt zou bereiken, waarna bedrijven dringend behoefte zouden hebben aan een geïntegreerd, verticaal infrastructuurplatform, vergelijkbaar met wat Meta intern had gebouwd. De vraag was niet óf het zou gebeuren, maar wanneeer.

Een pandemie, een pivot en een frisse start

Vóór TrueFoundry was er Enthire. Begin 2020 namen Nikunj en zijn twee medeoprichters — Abhishek, die ook bij Meta had gewerkt, en Anurag, die machine learning had gebruikt om handelsstrategieën te bouwen bij WorldQuant — ontslag om een ander probleem op te lossen: de inefficiëntie van technische sollicitatiegesprekken.

De timing had, zoals Nikunj het verwoordt, niet slechter (of verhelderender!) kunnen zijn. Ze kwamen in maart 2020 aan in Bangalore, enkele dagen voordat India in lockdown ging. Omdat ze nergens anders heen konden, deelden ze drie maanden lang één kamer in het tweekamerappartement van een vriend, legden matrassen neer en bouwden een bedrijf vanaf de grond op.

Enthire groeide. Binnen een jaar hadden ze 40 tot 50 klanten en werden ze toegelaten tot Y Combinator. Maar een cruciaal gesprek met hun YC-partner — iemand die vier jaar en meer dan 35 miljoen dollar had besteed aan het bouwen van een opvallend vergelijkbaar bedrijf voordat hij bij YC kwam — gaf hen de eerlijke bevestiging die ze moesten horen: het bedrijfsmodel had een plafond waar ze niet doorheen zouden kunnen breken. Het was te operationeel intensief, te niche en geen goede match voor drie oprichters met een diepe technische achtergrond.

Ze namen het besluit om uit het bedrijf te stappen — dat werd overgenomen door een grote Indiase onderneming — en keerden terug naar de tekentafel. Wat volgt was TrueFoundry, gebouwd op het infrastructuurinzicht dat Nikunj en Abhishek sinds hun tijd bij Meta met zich mee droegen.

Het platform bouwen dat de bedrijfswereld miste

TrueFoundry werd eind 2021 opgericht, meer dan een jaar voordat ChatGPT generatieve AI tot een mainstream onderwerp maakte. Die voorsprong was van enorm belang. Omdat het platform vanaf het begin is ontworpen met de architectuur van Meta als leidraad, werd generatieve AI behandeld als een speciaal geval van machine learning, en machine learning als een speciaal geval van software. Het was al in staat om workloads voor grote taalmodellen te ondersteunen toen de markt plotseling precies dat eiste.

"Toen ChatGPT werd gelanceerd, hoefden we geen fundamentele architecturale wijzigingen door te voeren," zei Nikunj. "We dachten vanuit machine learning, en dat ondersteunde LLM's standaard al."

Hun eerste grote enterprise-klant was een van de grootste farmaceutische bedrijven ter wereld. Sinds die tijd is TrueFoundry gegroeid tot een team van bijna 100 mensen verspreid over de Bay Area, Boston, Bangalore en Londen. Het product is uitgebreid van het oorspronkelijke AI-implementatieplatform — waarmee bedrijven aangepaste modellen en agents op hun eigen infrastructuur kunnen draaien — tot een AI Gateway: een centraal controlepunt dat zich bevindt tussen elke API-call die een bedrijf maakt naar zijn modellen, agents en MCP-servers.

De gateway dwingt governance, compliance en kostenbeheersing af. Het biedt volledige observatie over de gehele AI-stack. En het draait in 17 regio's wereldwijd, waarbij het een uptime van meer dan 99,99% behaalt met een latency van minder dan vijf milliseconden, terwijl het tientallen duizenden verzoeken per seconde verwerkt voor productie-kritische toepassingen.

Wat hij zijn jongere zelf zou vertellen

Op de vraag welk advies hij zichzelf aan het begin van deze reis zou geven, was het antwoord van Nikunj kenmerkend nuchter.

Doe het minder aantrekkelijke werk, en doe het uitzonderlijk goed.

"Vaak als we aan coole uitdagingen werken, genieten we daarvan. En zodra het werk wat minder cool wordt, beginnen we aan alles te twijfelen," zei hij. "Mijn advies is: wat je ook doet, doe het zo goed dat je trots bent op het werk zelf, zelfs als het werk niet interessant was."

Het cumulatieve effect van die aanpak wordt volgens hem onderschat. Mensen opmerken uitvoering van wereldklasse, zelfs bij alledaagse taken. Dat zijn de mensen die later terug willen komen om met je samen te werken. Je persoonlijke groei en je ecosysteem groeien samen op.

Het is in veel opzichten de filosofie die door elk hoofdstuk van zijn verhaal loopt: van twee jaar stille voorbereiding in Calcutta, tot het kiezen voor een masteropleiding boven een salaris van zes cijfers, tot het vanaf nul herbouwen na Enthire, tot het een jaar lang gefocust werken aan infrastructuur voordat TrueFoundry zijn eerste productieworkload bediende.

De lange termijn gerichtheid, mits consistent toegepast, werpt meestal zijn vruchten af.

Luister naar het volledige gesprek met Nikunj Bajaj in de Arden Labs Podcast, nu beschikbaar op Spotify en Apple Podcasts.