Innovatie ontketenen: Hoogtepunten van TrueFoundry's interne hackathon

Gebouwd voor snelheid: ~10ms latentie, zelfs onder belasting
De razendsnelle manier om je modellen te bouwen, volgen en implementeren!
- Verwerkt 350+ RPS op slechts 1 vCPU — geen tuning nodig
- Productieklaar met volledige enterprise-ondersteuning

Bij TrueFoundry zijn we toegewijd aan het ontwikkelen van een geïntegreerde platformoplossing die data scientists in staat stelt om eenvoudig te experimenteren, te versioneren, te fine-tunen en hun ML/LLM models te deployen. Naast onze klantgerichte inspanningen geloven we in het stimuleren van een cultuur van innovatie en het bieden van de mogelijkheid aan ons team om hun ideeën te verkennen buiten hun reguliere rollen. Daarom nemen onze interne hackathons een speciale plaats in ons hart in.
De essentie van een interne hackathon
Een interne hackathon is niet zomaar een evenement; het is een unieke kans om los te komen van de beperkingen van de dagelijkse routine en halsoverkop in een creatieve reis te duiken. Het brengt onze teamleden die op afstand werken fysiek samen en bevordert samenwerking, kameraadschap en verbindingen tussen teams die in onze virtuele werkomgeving niet altijd mogelijk zijn.
Hacken op onze manier met Generative AI
Op 23 juni zijn we begonnen aan onze tweede interne hackathon, en het was een werkelijk onvergetelijke ervaring. We hebben zorgvuldig een prachtige villa in Bangalore gekozen, de bruisende startup-hoofdstad van India, als onze locatie. Drie enerverende dagen lang verbleven we in een omgeving vol enthousiasme, samenwerking en de gezamenlijke zoektocht naar innovatie. De hackathon bood de perfecte mix van werk en ontspanning, waardoor we een band konden opbouwen met collega's en nieuwe manieren van samenwerken konden verkennen.
De hackathon ontvouwd
De hackathon ging op een vrijdagochtend van start na het genieten van een heerlijk Zuid-Indiaas ontbijt. Tijdens de eerste twee uur verdiepten we ons in brainstormsessies, waarbij we teams van twee of drie leden vormden bestaande uit personen met technische en niet-technische expertise. Met onze teams en probleemstellingen definitief vastgesteld, begon de klok te tikken voor een 24 uur durende hackathon. Terwijl de uren voorbijvlogen, doken onze teams diep in hun projecten, continu brainstormend, coderend en samenwerkend. Het was een rollercoaster van emoties, gevuld met opwindende doorbraken, intense codeersessies en gezamenlijke probleemoplossing. Ondanks de intensiteit bood de hackathon ook ruimschoots de gelegenheit voor ontspanning en binding, met heerlijke maaltijden, spontane teamoverleggen en levendige discussies die verder gingen dan de grenzen van het werk.

Het presenteren van de projecten
Aan het einde van de hackathon presenteerden de teams hun projecten live, en alle deelnemende leden hadden de kans om het beste project te bekijken en er op te stemmen. De presentaties waren inspirerend en lieten het enorme talent en de toewijding van onze teamleden zien. We verbaasden ons over de vindingrijkheid achter elk project en vierden de diversiteit aan ideeën en benaderingen. De viering na de hackathon voegde een heerlijke touch toe, met feesten en teamactiviteiten die het tot een werkelijk onvergetelijke ervaring maakten.

Projecten die grenzen verlegden
De hackathon bleek een kweekvijver te zijn voor opmerkelijke projecten die het potentieel hebben om de toekomst van TrueFoundry vorm te geven. Laten we enkele van de hoogtepunten verkennen:
Real-time ontwikkeling eenvoudig maken
Het TFExecutor-team leverde een POC die shell-toegang tot Kubernetes Pods introduceerde, waardoor Data Scientists in real-time wijzigingen kunnen aanbrengen in gedeployde ML/LLM-code. Daarnaast ontwikkelden ze een code space-functie voor verbeterde samenwerking en ontwikkeling. Na de succesvolle demo hebben we besloten om Code space vrij te geven aan onze gebruikers en door te gaan met de ontwikkeling van het Kubernetes pod shell access-project.

Lees meer over Kubernetes for Data-Scientists
Website-interactiemetrieken verbeteren
Om lage inkomende leads aan te pakken ondanks een stijging van 800% in websiteverkeer, analyseerde ons product design-team de klikfrequenties en schermtijd. Hun inzichten leidden tot een vernieuwd website-ontwerp gebaseerd op het principe van AIDA. We hebben besloten om deze wijzigingen te implementeren om onze inkomende leads te verbeteren.

Platform onboarding stroomlijnen
Sinds de lancering van onze public cloud-versie begin juni hebben meer dan 30 organisaties zich aangemeld. Veel teams ondervonden echter uitdagingen bij het starten van Kubernetes-clusters om verbinding te maken met TrueFoundry. Team TrueMakkhan ontwikkelde een POC met CIVO, een automatisch geprovisioneerd cluster dat beschikbaar is op proefbasis, om het onboardingproces te stroomlijnen. De demo werd met enthousiasme ontvangen en we werken nu aan een productieklare oplossing voor een probleemloze onboarding-ervaring.

Modeltesten vereenvoudigen met LLM Playground
LLM-technologieën (Large Language Model) hebben aanzienlijke populariteit gewonnen, en TrueFoundry maakt het eenvoudiger voor bedrijven om deze te benutten. Team Underdogs heeft een MVP LLM-playground gecreëerd met verschillende modellen, waaronder die van OpenAI, Replicate, Hugging Face en intern ge-finetunede modellen. Het dashboard, beveiligd met de OAuth van TrueFoundry, stelt organisatiebeheerders in staat om de beschikbaarheid van modellen te beheren en gecentraliseerde API keys in te stellen voor betaalde LLM-providers. Deze integratie is uitgebracht en biedt een naadloze ervaring aan onze gebruikers.

Probeer de LLM-playground
Toetreden tot de LLMOps-community
Hackathons draaien niet alleen om technische innovatie; ze bieden ook kansen om de community te versterken en een sterke bedrijfscultuur op te bouwen. Team Sleep Deprived heeft een uitgebreide analyse uitgevoerd van de aanwezigheid van TrueFoundry op verschillende platforms en heeft een gedetailleerd plan opgesteld om ons bereik als ML-platform te vergroten. Hun initiatieven omvatten SEO-optimalisatie, vermelding op populaire GitHub-repositories en ML-toolplatforms, betrokkenheid van domeinexperts voor onze podcast TrueMLTalks, en het publiceren van inzichtelijke blogs en e-books. Deze inspanningen zorgen ervoor dat TrueFoundry wordt erkend en gewaardeerd binnen de ML-community.
Bekijk ook hoe TrueFoundry LLMOps voor u eenvoudig maakt: The $360K question about Large Language Models Economics, TrueFoundry Now Deploys and Fine-tunes Open Source LLMs With a Few Clicks!
Geautomatiseerde webscraping
Ons salesteam besteedde voorheen waardevolle tijd aan het zoeken naar relevante leads op LinkedIn, GitHub en Slack-kanalen. Team SkyScrapper ging de uitdaging aan om dit proces te automatiseren en ontwikkelde webscraping-scripts die data verzamelden op basis van gerichte trefwoorden van verschillende platforms. Hun oplossing bespaarde niet alleen tijd, maar zorgde ook voor een consistent en efficiënt leadgeneratieproces voor ons salesteam.

Kostenoptimalisatie met CostGPT
Om organisaties te helpen hun infrastructuurkosten te verlagen door best practices te volgen, heeft Team CostGPT een beknopt Google-formulier gemaakt dat inzichten en aanbevelingen biedt. Door meerdere bedrijven te ondervragen, genereerden zij waardevolle leads en droegen zij bij aan kostenbesparende initiatieven.

Bekijk How Neurobit saves 60% of their infra cost
De test is live en u kunt deze hier invullen
Geautomatiseerd testen voor platformstabiliteit
Testen is essentieel voor het leveren van de beste productervaring. Team End2End heeft scripts ontwikkeld om end-to-end testen van ons platform op verschillende cloud providers en on-premises installaties te automatiseren. Door dit complexe en tijdrovende proces te automatiseren, kunnen we de werklast voor ons engineeringteam verminderen en het risico op installatieproblemen minimaliseren.

Interactieve Infrastructure Setup
Team InfraRanger heeft een interactieve Streamlit-app ontworpen om de infrastructure setup en het gehele onboardingproces te vereenvoudigen. De applicatie genereert de vereiste Terraform-configuraties op basis van gebruikersinvoer, wat een one-click provisioning van de volledige infrastructuur mogelijk maakt. Deze intuïtieve tool neemt de noodzaak weg om meerdere CLI-tools te installeren, zoals kubectl, AWS, GCP, Azure en Terragrunt.

De cultuur van TrueFoundry cultiveren
Bij TrueFoundry vormen onze mensen en onze cultuur het hart van ons bedrijf. Team TrueCulture erkende het belang van het voeden van een sterke en cohesieve cultuur binnen onze organisatie. Ze ontwikkelden een uitgebreid driemaandenplan bestaande uit verschillende activiteiten om een positieve werkcultuur te creëren en ons team aan de wereld te tonen. Deze activiteiten omvatten het bouwen van aantrekkelijke LinkedIn-profielen, het delen van informele berichten over teamactiviteiten en het bijwonen van conferenties. Door te investeren in onze cultuur versterken we ons merk en creëren we een omgeving die toptalent aantrekt.

Samenvatting
De interne hackathon was een bewijs van het ongelooflijke talent, de toewijding en het teamwerk dat TrueFoundry definieert. We hebben samen uitdagingen aangepakt, gebrainstormd over oplossingen en nieuwe banden gesmeed. Hoewel sommige projecten al zijn geïmplementeerd, zijn andere nog in uitvoering, wat ons vooruithelpt in onze missie om het beste ML-platform met een ongeëvenaarde gebruikerservaring te bouwen. Naast professionele prestaties was de hackathon een kans om op persoonlijk vlak verbinding te maken en blijvende herinneringen te creëren. Van grote feestjes tot het spelen van games, jamsessies tot laat in de nacht en filmavonden: het evenement toonde de ware geest van samenhorigheid.
Word onderdeel van onze reis
Terwijl we de toekomst van ML-platforms vorm blijven geven, nodigen we je uit om deel uit te maken van onze reis. Of je nu geïnteresseerd bent in het proberen van ons product of het versterken van ons team, we heten je van harte welkom bij TrueFoundry. Samen ontgrendelen we het volledige potentieel van ML en ontketenen we een revolutie in de manier waarop data scientists hun modellen deployen

Door een cultuur van innovatie te stimuleren en ons team de vrijheid te geven om te verkennen, blijft Truefoundry zich inzetten om grenzen te verleggen, uitzonderlijke oplossingen te leveren en een betekenisvolle impact te maken in de wereld van machine learning.
Meld je vandaag nog aan of versterk ons team om deel uit te maken van de Truefoundry-revolutie. Laten we samen innovatie ontketenen!
TrueFoundry AI Gateway levert een latentie van ~3–4 ms, verwerkt 350+ RPS op 1 vCPU, schaalt moeiteloos horizontaal en is klaar voor productie, terwijl LiteLLM last heeft van hoge latentie, moeite heeft boven een gemiddeld aantal RPS, geen ingebouwde schaling heeft en het meest geschikt is voor lichte workloads of prototypes.















.png)

.webp)



.webp)








.webp)





