L'évolution de l'apprentissage automatique : une plongée approfondie dans le parcours de Savin

Conçu pour la vitesse : latence d'environ 10 ms, même en cas de charge
Une méthode incroyablement rapide pour créer, suivre et déployer vos modèles !
- Gère plus de 350 RPS sur un seul processeur virtuel, aucun réglage n'est nécessaire
- Prêt pour la production avec un support complet pour les entreprises
Dans cet épisode de #TrueMLtalks, Savin d'Outerbounds donne un aperçu des cas d'utilisation des MLOps sur Netflix. S'appuyant sur ses expériences initiales avec LinkedIn et Netflix, Savin explique comment il a utilisé son expérience précédente pour commencer son parcours avec Outerbounds.
La discussion avec Savin a porté sur un large éventail de sujets, notamment :
- L'expérience de Savin en matière d'IA et de ML
- L'émergence de l'ingénierie ML en tant que discipline
- La création de Metaflow
- Comparaison de Metaflow avec d'autres outils d'orchestration tels qu'Airflow
- Défis liés aux opérations de machine learning
- Début de Outerbounds
- Histoires de réussite et impacts transformateurs de Metaflow
- Aspects futurs des MLOps
Présentation de la carrière technologique de Savin
L'histoire de Savin commence par une opportunité, la chance de rejoindre une start-up de la Silicon Valley, qui ouvrirait la voie à plus d'une décennie de travaux percutants dans le domaine du ML, façonnant à la fois sa trajectoire professionnelle et l'évolution des technologies de ML.
Formation en génie logiciel
Savin a commencé sa carrière en génie logiciel, un domaine qui lui a permis d'acquérir les compétences fondamentales nécessaires pour naviguer et innover dans le secteur des technologies. Ses premiers rôles impliquaient des tâches typiques de développement logiciel, mais sa carrière n'a pas tardé à prendre un tournant significatif vers le domaine en plein essor de l'apprentissage automatique.
Transition vers l'ingénierie ML
Le changement s'est produit lorsque Savin s'est retrouvé à travailler dans une start-up où il pouvait jouer un rôle en comblant le fossé entre les data scientists et les ingénieurs logiciels. Ce poste l'a exposé à la complexité et aux défis des projets de machine learning, où il s'est rapidement rendu compte de la nécessité d'un nouveau type d'ingénierie. Cette prise de conscience a coïncidé avec la reconnaissance par l'industrie de l' « ingénierie automatique » en tant que discipline distincte, soulignant l'engagement précoce et prémonitoire de Savin dans ce domaine.
Développement de Metaflow chez Netflix
Rejoindre Netflix
La carrière de Savin a pris un tournant décisif lorsqu'il a rejoint Netflix. Chez Netflix, il a découvert une culture d'entreprise unique connue pour son côté innovant et ses enjeux élevés dans la prise de décision basée sur les données. C'est ici que Savin apportera l'une de ses contributions les plus importantes au domaine de l'apprentissage automatique : le développement de Metaflow.
Les défis du ML chez Netflix
Netflix a présenté une nouvelle série de défis et d'opportunités. La dépendance de l'entreprise à l'égard des données et de ses vastes ressources a permis à Savin d'explorer en profondeur les possibilités du ML. Cependant, il a également été confronté à la complexité de la gestion de projets de machine learning à grande échelle, qui impliquaient une gestion complexe des données et des ressources de calcul qui devaient être orchestrées efficacement pour soutenir les travaux innovants des data scientists.
Création d'un métaflow
Metaflow a été développé pour répondre à ces défis. Il a été conçu pour simplifier le flux de travail des data scientists en éliminant les complexités d'ingénierie associées aux projets de machine learning. Cette plateforme a permis aux data scientists de Netflix de se concentrer davantage sur l'expérimentation et moins sur les systèmes sous-jacents, améliorant ainsi la productivité et l'innovation.
Surmonter les défis du développement du machine learning
Intégration et gestion des systèmes ML
L'un des défis les plus importants du développement de Metaflow était l'intégration et la gestion de systèmes ML complexes. Savin et son équipe devaient s'assurer que Metaflow puisse non seulement répondre aux divers besoins des data scientists, mais également s'intégrer parfaitement aux technologies existantes de Netflix. Cela nécessitait une compréhension approfondie des aspects techniques et opérationnels des projets de machine learning.
Leçons tirées du déploiement des technologies de machine learning
Le développement et le déploiement de Metaflow ont fourni de nombreuses leçons sur la gestion des technologies de machine learning à grande échelle. Il s'agissait notamment de l'importance de l'évolutivité, de la nécessité de disposer de systèmes de gestion des données robustes et des défis liés à la garantie que les systèmes de machine learning puissent fonctionner efficacement dans différents environnements. Ces leçons s'avéreraient inestimables alors que Savin passait à sa prochaine entreprise.
Élargir l'horizon avec Outerbounds
De Netflix à Outerbounds
S'appuyant sur ses expériences chez Netflix, Savin a cofondé Outerbounds pour faire passer son travail avec Metaflow à un niveau supérieur. Outerbounds a été créé dans le but de démocratiser l'accès à des outils de machine learning sophistiqués, afin de permettre aux entreprises de divers secteurs d'implémenter plus facilement des solutions de ML avancées sans avoir à créer une infrastructure complexe à partir de zéro.
La mission d'Outerbounds
La mission d'Outerbounds est de combler le fossé entre les capacités avancées de ML développées par des entreprises comme Netflix et le marché plus large qui pourrait bénéficier de ces innovations. En fournissant à la fois les outils et l'expertise nécessaires à la mise en œuvre de solutions de machine learning efficaces, Outerbounds vise à permettre à un plus grand nombre d'organisations d'utiliser le ML pour stimuler l'innovation et l'efficacité.
L'avenir de l'apprentissage automatique
Alors que l'apprentissage automatique continue d'évoluer, le parcours de Savin, d'ingénieur logiciel à un innovateur de premier plan dans le domaine de la technologie ML, résume la nature dynamique du domaine. Son travail avec Metaflow et Outerbounds illustre le besoin permanent d'outils et de plateformes capables de s'adapter à la complexité croissante des projets de machine learning. À l'avenir, les contributions de Savin devraient continuer à façonner le paysage de l'apprentissage automatique, en repoussant les limites du possible et en facilitant l'adoption plus large de cette technologie transformatrice.
TrueFoundry AI Gateway offre une latence d'environ 3 à 4 ms, gère plus de 350 RPS sur 1 processeur virtuel, évolue horizontalement facilement et est prête pour la production, tandis que LiteLM souffre d'une latence élevée, peine à dépasser un RPS modéré, ne dispose pas d'une mise à l'échelle intégrée et convient parfaitement aux charges de travail légères ou aux prototypes.
Le moyen le plus rapide de créer, de gérer et de faire évoluer votre IA













.webp)



.png)


.webp)




.webp)







