Entwicklung des maschinellen Lernens: Ein tiefer Einblick in Savins Reise

Auf Geschwindigkeit ausgelegt: ~ 10 ms Latenz, auch unter Last
Unglaublich schnelle Methode zum Erstellen, Verfolgen und Bereitstellen Ihrer Modelle!
- Verarbeitet mehr als 350 RPS auf nur 1 vCPU — kein Tuning erforderlich
- Produktionsbereit mit vollem Unternehmenssupport
In dieser Folge von #TrueMLtalks gibt Savin von Outerbounds Einblicke in die MLOps-Anwendungsfälle in Netflix. Savin stützt sich auf seine anfänglichen Erfahrungen mit LinkedIn und Netflix und geht darauf ein, wie er ihre früheren Erfahrungen genutzt hat, um seine Reise mit Outerbounds zu beginnen.
Die Diskussion mit Savin behandelte eine Vielzahl von Themen, darunter:
- Savins Erfahrung mit KI/ML
- Die Entstehung des ML-Engineerings als Disziplin
- Die Entstehung von Metaflow
- Vergleich von Metaflow mit anderen Orchestrierungstools wie Airflow
- Herausforderungen im ML-Betrieb
- Beginn von Outerbounds
- Erfolgsgeschichten und transformative Auswirkungen von Metaflow
- Zukünftige Aspekte von MLOps
Einführung in Savins Tech-Karriere
Savins Geschichte beginnt mit einer Gelegenheit — der Chance, einem Startup im Silicon Valley beizutreten —, die die Voraussetzungen für über ein Jahrzehnt einflussreicher Arbeit im Bereich ML schaffen und sowohl seinen beruflichen Werdegang als auch die Entwicklung der ML-Technologien prägen sollte.
Hintergrund in der Softwaretechnik
Savin begann seine Karriere in der Softwareentwicklung, einem Bereich, der ihm die grundlegenden Fähigkeiten vermittelte, die für die Navigation und Innovation in der Technologiebranche erforderlich sind. Seine anfänglichen Rollen umfassten typische Softwareentwicklungsaufgaben, aber es dauerte nicht lange, bis seine Karriere eine bedeutende Wendung in Richtung des aufstrebenden Bereichs des maschinellen Lernens nahm.
Übergang zu ML Engineering
Die Veränderung erfolgte, als Savin in einem Startup arbeitete, wo er eine Rolle spielen konnte, um die Kluft zwischen Datenwissenschaftlern und Softwareingenieuren zu überbrücken. Diese Position machte ihn mit der Komplexität und den Herausforderungen von ML-Projekten vertraut, bei denen er schnell die Notwendigkeit einer neuen Art von Engineering erkannte. Diese Erkenntnis fiel mit der Anerkennung von „ML Engineering“ durch die Branche als eigenständige Disziplin zusammen, was Savins frühes und vorausschauendes Engagement in diesem Bereich unterstrich.
Entwicklung von Metaflow bei Netflix
Netflix beitreten
Savins Karriere nahm eine entscheidende Wendung, als er zu Netflix kam. Bei Netflix lernte er eine einzigartige Unternehmenskultur kennen, die für ihren Innovationsvorsprung und ihren hohen Stellenwert bei datengesteuerten Entscheidungen bekannt ist. Hier sollte Savin einen seiner wichtigsten Beiträge auf dem Gebiet des maschinellen Lernens leisten: die Entwicklung von Metaflow.
Herausforderungen im Bereich ML bei Netflix
Netflix stellte eine Reihe neuer Herausforderungen und Möglichkeiten dar. Die Abhängigkeit des Unternehmens von Daten und seine enormen Ressourcen ermöglichten es Savin, die Möglichkeiten von ML eingehend zu erkunden. Er stieß jedoch auch auf die Komplexität der Verwaltung großer ML-Projekte, die komplizierte Datenverwaltungs- und Rechenressourcen erforderten, die effektiv orchestriert werden mussten, um die innovative Arbeit der Datenwissenschaftler zu unterstützen.
Metaflow erstellen
Metaflow wurde als Antwort auf diese Herausforderungen entwickelt. Es wurde entwickelt, um den Arbeitsablauf für Datenwissenschaftler zu vereinfachen, indem die technischen Komplexitäten, die mit ML-Projekten verbunden sind, weggenommen wurden. Diese Plattform ermöglichte es den Datenwissenschaftlern bei Netflix, sich mehr auf Experimente und weniger auf die zugrunde liegenden Systeme zu konzentrieren, wodurch Produktivität und Innovation gesteigert wurden.
Überwindung der Herausforderungen bei der ML-Entwicklung
Integration und Management von ML-Systemen
Eine der größten Herausforderungen bei der Entwicklung von Metaflow war die Integration und Verwaltung komplexer ML-Systeme. Savin und sein Team mussten sicherstellen, dass Metaflow nicht nur die vielfältigen Bedürfnisse von Datenwissenschaftlern erfüllen, sondern sich auch nahtlos in die vorhandenen Technologien bei Netflix integrieren konnte. Dies erforderte ein tiefes Verständnis sowohl der technischen als auch der betrieblichen Aspekte von ML-Projekten.
Erkenntnisse aus dem Einsatz von ML-Technologien
Die Entwicklung und der Einsatz von Metaflow lieferten zahlreiche Erkenntnisse im Umgang mit groß angelegten ML-Technologien. Dazu gehörten die Bedeutung der Skalierbarkeit, die Notwendigkeit robuster Datenmanagementsysteme und die Herausforderungen, sicherzustellen, dass ML-Systeme in verschiedenen Umgebungen effizient funktionieren können. Diese Lektionen würden sich als unschätzbar erweisen, als Savin zu seinem nächsten Unternehmen überging.
Mit Outerbounds den Horizont erweitern
Von Netflix zu Outerbounds
Aufbauend auf seinen Erfahrungen bei Netflix war Savin Mitbegründer von Outerbounds, um seine Arbeit mit Metaflow auf die nächste Stufe zu heben. Outerbounds wurde mit dem Ziel gegründet, den Zugang zu ausgeklügelten ML-Tools zu demokratisieren und es Unternehmen aus verschiedenen Branchen zu erleichtern, fortschrittliche ML-Lösungen zu implementieren, ohne eine komplexe Infrastruktur von Grund auf neu aufbauen zu müssen.
Die Mission von Outerbounds
Die Mission von Outerbounds ist es, die Lücke zwischen den fortschrittlichen ML-Funktionen, die in Unternehmen wie Netflix entwickelt wurden, und dem breiteren Markt, der von diesen Innovationen profitieren könnte, zu schließen. Durch die Bereitstellung sowohl der Tools als auch des Fachwissens, die für die Implementierung effektiver ML-Lösungen erforderlich sind, will Outerbounds mehr Unternehmen in die Lage versetzen, ML zu nutzen, um Innovation und Effizienz voranzutreiben.
Die Zukunft des maschinellen Lernens
Während sich maschinelles Lernen ständig weiterentwickelt, verkörpert Savins Weg vom Softwareingenieur zu einem führenden Innovator in der ML-Technologie die Dynamik des Fachgebiets. Seine Arbeit mit Metaflow und Outerbounds verdeutlicht den anhaltenden Bedarf an Tools und Plattformen, die sich an die zunehmende Komplexität von ML-Projekten anpassen können. Mit Blick auf die Zukunft werden Savins Beiträge die Landschaft des maschinellen Lernens weiter prägen, die Grenzen des Machbaren erweitern und die breitere Akzeptanz dieser transformativen Technologie erleichtern.
TrueFoundry AI Gateway bietet eine Latenz von ~3—4 ms, verarbeitet mehr als 350 RPS auf einer vCPU, skaliert problemlos horizontal und ist produktionsbereit, während LiteLM unter einer hohen Latenz leidet, mit moderaten RPS zu kämpfen hat, keine integrierte Skalierung hat und sich am besten für leichte Workloads oder Prototyp-Workloads eignet.
Der schnellste Weg, deine KI zu entwickeln, zu steuern und zu skalieren

















.png)


.webp)




.webp)







