Libérer l'innovation : points forts du hackathon interne de TrueFoundry

Conçu pour la vitesse : latence d'environ 10 ms, même en cas de charge
Une méthode incroyablement rapide pour créer, suivre et déployer vos modèles !
- Gère plus de 350 RPS sur un seul processeur virtuel, aucun réglage n'est nécessaire
- Prêt pour la production avec un support complet pour les entreprises

Chez TrueFoundry, nous nous engageons à développer une solution de plateforme intégrée qui permet aux data scientists d'expérimenter, de modifier, d'affiner et de déployer leurs Modèles ML/LLM en toute simplicité. Parallèlement à nos efforts axés sur le client, nous croyons en la nécessité de favoriser une culture de l'innovation et de donner à notre équipe la possibilité d'explorer ses idées au-delà de ses fonctions habituelles. C'est pourquoi nos hackathons internes occupent une place particulière dans nos cœurs.
L'essence d'un hackathon interne
Un hackathon interne n'est pas qu'un simple événement ; c'est une occasion unique de s'affranchir des contraintes de la routine quotidienne et de se lancer tête première dans un voyage créatif. Il réunit physiquement les membres de notre équipe à distance, favorisant ainsi la collaboration, la camaraderie et les liens entre équipes qui ne sont pas toujours possibles dans notre environnement de travail virtuel.
Nous frayer un chemin grâce à l'IA générative
Le 23 juin, nous avons entamé notre deuxième hackathon interne, et ce fut une expérience vraiment inoubliable. Nous avons soigneusement sélectionné une superbe villa à Bangalore, la capitale dynamique des startups de l'Inde, comme lieu de résidence. Pendant trois jours exaltants, nous nous sommes immergés dans un environnement plein d'enthousiasme, de collaboration et de recherche partagée de l'innovation. Le hackathon a fourni le mélange parfait entre travail et loisirs, nous permettant de créer des liens avec nos collègues et d'explorer de nouvelles voies de collaboration.
Le Hackathon s'est déroulé
Le hackathon a débuté un vendredi matin après avoir dégusté un délicieux petit-déjeuner du sud de l'Inde. Au cours des deux premières heures, nous nous sommes plongés dans des sessions de brainstorming, en formant des équipes de deux ou trois membres composées de personnes possédant une expertise technique et non technique. Une fois nos équipes et l'énoncé des problèmes finalisés, le temps était compté pour un hackathon de 24 heures. Au fil des heures, nos équipes se sont plongées dans leurs projets en réfléchissant, en codant et en collaborant sans relâche. Ce fut une montagne russe pleine d'émotions, remplie de découvertes exaltantes, de sessions de codage intenses et de résolution de problèmes en collaboration. Malgré son intensité, le hackathon a également fourni de nombreuses occasions de détente et de création de liens, avec de délicieux repas, des réunions d'équipe impromptues et des discussions animées qui se sont étendues au-delà des limites du travail.

Présentation des projets
À la fin du hackathon, les équipes ont présenté leurs projets en direct, et tous les membres participants ont eu l'occasion d'observer et de voter pour le meilleur projet. Les présentations étaient inspirantes et ont démontré l'immense talent et le dévouement des membres de notre équipe. Nous avons été émerveillés par l'ingéniosité qui sous-tend chaque projet, en célébrant la diversité des idées et des approches. La célébration qui a suivi le hackathon a ajouté une touche agréable, avec des fêtes et des activités d'équipe, ce qui en a fait une expérience vraiment inoubliable.

Des projets qui ont repoussé les limites
Le hackathon s'est révélé être un terreau fertile pour des projets remarquables susceptibles de façonner l'avenir de TrueFoundry. Explorons certains des points forts :
Faciliter le développement en temps réel
L'équipe TFExecutor a mis au point un POC qui a introduit l'accès shell aux Kubernetes Pods, permettant aux data scientists d'apporter des modifications en temps réel au code ML/LLM déployé. En outre, ils ont développé une fonctionnalité d'espace de code pour améliorer la collaboration et le développement. Suite au succès de la démonstration, nous avons décidé de mettre l'espace de code à la disposition de nos utilisateurs et de poursuivre le développement du projet Kubernetes pod shell access.

En savoir plus sur Kubernetes pour les scientifiques des données
Améliorer les mesures d'interaction avec les sites Web
Pour remédier au faible nombre de prospects entrants malgré une augmentation de 800 % du trafic sur le site Web, notre équipe de conception de produits a analysé les taux de clics et le temps d'écran. Leurs idées ont conduit à une conception de site Web remaniée basée sur le principe de AIDA. Nous avons décidé de mettre en œuvre ces modifications afin d'améliorer nos prospects entrants.

Rationalisation de l'intégration à la plateforme
Depuis le lancement de notre version cloud public début juin, plus de 30 organisations se sont inscrites. Cependant, de nombreuses équipes ont rencontré des difficultés lorsqu'il s'est agi de lancer des clusters Kubernetes pour se connecter à TrueFoundry. L'équipe TrueMakKhan a développé un POC utilisant CIVO, un cluster à provisionnement automatique disponible pendant une période d'essai, afin de rationaliser le processus d'intégration. La démonstration a été accueillie avec enthousiasme et nous travaillons actuellement à la mise en place d'une solution prête à la production pour une expérience d'intégration sans tracas.

Simplifier les tests de modèles avec LLM Playground
LLM Les technologies (Large Language Model) ont gagné en popularité et TrueFoundry permet aux entreprises de les utiliser plus facilement. Team Underdogs a créé un terrain de jeu MVP LLM comprenant différents modèles, notamment ceux d'OpenAI, Replicate, Hugging Face, et des modèles ajustés en interne. Le tableau de bord, protégé par OAuth de TrueFoundry, permet aux administrateurs de l'organisation de contrôler la disponibilité des modèles et de définir des clés d'API centralisées pour les fournisseurs LLM payants. Cette intégration a été publiée, offrant une expérience fluide à nos utilisateurs.

Essayez Aire de jeux LLM
Entrer dans la communauté LLMops
Les hackathons ne sont pas uniquement une question d'innovation technique ; ils offrent également la possibilité de favoriser la communauté et de créer une culture d'entreprise solide. Team Sleep Priveed a effectué une analyse complète de la présence de TrueFoundry sur différentes plateformes et a élaboré un plan détaillé pour étendre notre portée en tant que plateforme de ML. Leurs initiatives incluent l'optimisation du référencement, l'inscription sur les référentiels GitHub et les plateformes d'outils de machine learning les plus populaires, la collaboration avec des experts du domaine pour notre podcast Discussions TruEML, et en produisant de perspicaces blogs et des livres électroniques. Ces efforts garantissent que TrueFoundry est reconnu et valorisé au sein de la communauté ML.
Découvrez également comment TrueFoundry vous facilite la tâche : La question de 360 000$ sur l'économie des grands modèles linguistiques, TrueFoundry déploie et peaufine désormais des LLM open source en quelques clics !
Web Scraping automatisé
Auparavant, notre équipe commerciale passait un temps précieux à rechercher des prospects pertinents sur les chaînes LinkedIn, GitHub et Slack. L'équipe SkyScrapper a relevé le défi d'automatiser ce processus en développant des scripts de web scraping qui extrayaient des données en fonction de mots clés ciblés provenant de différentes plateformes. Leur solution a non seulement permis de gagner du temps, mais a également garanti un processus de génération de prospects cohérent et efficace pour notre équipe commerciale.

Optimisation des coûts avec CostGPT
Pour aider les organisations à réduire les coûts d'infrastructure en suivant les meilleures pratiques, Team CostGPT a créé un formulaire Google concis qui fournit des informations et des recommandations. En interrogeant plusieurs entreprises, ils ont généré de précieux prospects et contribué aux efforts de réduction des coûts.

Consultez Comment Neurobit économise 60 % de ses coûts d'infrastructure
Le test est en ligne et vous pouvez le passer ici
Tests automatisés pour la stabilité de la plateforme
Les tests sont essentiels pour offrir la meilleure expérience produit possible. L'équipe End2End a développé des scripts pour automatiser les tests de bout en bout de notre plateforme sur différents fournisseurs de cloud et installations sur site. En automatisant ce processus complexe et chronophage, nous pouvons réduire la charge de travail de notre équipe d'ingénieurs et minimiser le risque de problèmes de configuration.

Configuration de l'infrastructure interactive
L'équipe InfraRanger a conçu une application interactive simplifiée pour simplifier la configuration de l'infrastructure et l'ensemble du processus d'intégration. L'application génère les configurations Terraform requises en fonction des entrées des utilisateurs, ce qui permet de provisionner en un clic l'ensemble de l'infrastructure. Cet outil intuitif élimine le besoin d'installer plusieurs outils CLI, tels que kubectl, AWS, GCP, Azure et Terragrunt.

Cultiver la culture de TrueFoundry
Chez Truefoundry, notre personnel et notre culture sont au cœur de notre entreprise. L'équipe TrueCulture a reconnu l'importance de favoriser une culture forte et cohérente au sein de notre organisation. Ils ont élaboré un plan triennal complet comprenant diverses activités visant à créer une culture de travail positive et à faire connaître notre équipe au monde entier. Ces activités incluent la création de profils LinkedIn attrayants, le partage de publications informelles sur les activités d'équipe et la participation à des conférences. En investissant dans notre culture, nous renforçons notre marque et créons un environnement qui attire les meilleurs talents.

Conclusion
Le hackathon interne a témoigné de l'incroyable talent, du dévouement et du travail d'équipe qui caractérisent Truefoundry. Nous avons collectivement relevé des défis, réfléchi à des solutions et noué de nouveaux liens. Alors que certains projets ont déjà été mis en œuvre, d'autres sont toujours en cours, ce qui nous permet de poursuivre notre mission de créer la meilleure plateforme de ML offrant une expérience utilisateur inégalée. Au-delà des réussites professionnelles, le hackathon a été l'occasion de créer des liens personnels et de créer des souvenirs inoubliables. Qu'il s'agisse de grandes fêtes, de jeux, de sessions de jamming nocturnes ou de soirées cinéma, l'événement a mis en valeur le véritable esprit de convivialité.
Participez à notre aventure
Alors que nous continuons à façonner l'avenir des plateformes de machine learning, nous vous invitons à rejoindre notre aventure. Que vous soyez intéressé par essayer notre produit ou devenir membre de notre équipe, nous vous invitons à faire partie de Truefoundry. Ensemble, nous exploiterons tout le potentiel du machine learning et révolutionnerons la façon dont les data scientists déploient leurs modèles

En favorisant une culture de l'innovation et en donnant à notre équipe la liberté d'explorer, Truefoundry s'engage à repousser les limites, à proposer des solutions exceptionnelles et à avoir un impact significatif dans le monde de l'apprentissage automatique.
INSCRIVEZ-VOUS aujourd'hui ou rejoignez notre équipe pour participer à la révolution Truefoundry. Ensemble, libérons l'innovation !
TrueFoundry AI Gateway offre une latence d'environ 3 à 4 ms, gère plus de 350 RPS sur 1 processeur virtuel, évolue horizontalement facilement et est prête pour la production, tandis que LiteLM souffre d'une latence élevée, peine à dépasser un RPS modéré, ne dispose pas d'une mise à l'échelle intégrée et convient parfaitement aux charges de travail légères ou aux prototypes.
Le moyen le plus rapide de créer, de gérer et de faire évoluer votre IA











.webp)



.png)


.webp)




.webp)







