La evolución del aprendizaje automático: una inmersión profunda en el viaje de Savin

Diseñado para la velocidad: ~ 10 ms de latencia, incluso bajo carga
¡Una forma increíblemente rápida de crear, rastrear e implementar sus modelos!
- Gestiona más de 350 RPS en solo 1 vCPU, sin necesidad de ajustes
- Listo para la producción con soporte empresarial completo
En este episodio de #TrueMLtalks, Savin de Outerbounds comparte información sobre los casos de uso de MLOps en Netflix. Basándose en sus experiencias iniciales con LinkedIn y Netflix, Savin explica cómo utilizó su experiencia anterior para iniciar su andadura con Outerbounds.
La conversación con Savin abarcó una amplia gama de temas, entre ellos:
- La experiencia de Savin en AI/ML
- El surgimiento de la ingeniería de aprendizaje automático como disciplina
- La creación de Metaflow
- Comparación de Metaflow con otras herramientas de orquestación como Airflow
- Desafíos en las operaciones de aprendizaje automático
- Comienzo de Outerbounds
- Historias de éxito e impactos transformadores de Metaflow
- Aspectos futuros de los MLOP
Introducción a la carrera tecnológica de Savin
La historia de Savin comienza con una oportunidad, la oportunidad de unirse a una empresa emergente en Silicon Valley, que sentaría las bases para más de una década de trabajo impactante en el aprendizaje automático, dando forma tanto a su trayectoria profesional como a la evolución de las tecnologías de aprendizaje automático.
Experiencia en ingeniería de software
Savin comenzó su carrera en ingeniería de software, un campo que le proporcionó las habilidades fundamentales necesarias para navegar e innovar en la industria de la tecnología. Sus funciones iniciales incluían tareas típicas de desarrollo de software, pero no pasó mucho tiempo antes de que su carrera diera un giro significativo hacia el floreciente campo del aprendizaje automático.
Transición a la ingeniería de aprendizaje automático
El cambio se produjo cuando Savin se encontró trabajando en una empresa emergente donde podía desempeñar un papel para cerrar la brecha entre los científicos de datos y los ingenieros de software. Este puesto lo expuso a las complejidades y desafíos de los proyectos de aprendizaje automático, y rápidamente se dio cuenta de la necesidad de un nuevo tipo de ingeniería. Esta constatación coincidió con el reconocimiento por parte de la industria de la «ingeniería de aprendizaje automático» como una disciplina diferenciada, lo que puso de manifiesto el compromiso inicial y profético de Savin con este campo.
Desarrollo de Metaflow en Netflix
Unirse a Netflix
La trayectoria profesional de Savin dio un giro crucial cuando se unió a Netflix. En Netflix, conoció una cultura corporativa única conocida por su ventaja innovadora y su gran apuesta por la toma de decisiones basada en datos. Fue aquí donde Savin haría una de sus contribuciones más importantes al campo del aprendizaje automático: el desarrollo de Metaflow.
Desafíos del aprendizaje automático en Netflix
Netflix planteó una nueva serie de desafíos y oportunidades. La confianza de la empresa en los datos y sus vastos recursos permitieron a Savin explorar en profundidad las posibilidades del aprendizaje automático. Sin embargo, también se encontró con la complejidad de gestionar proyectos de aprendizaje automático a gran escala, que implicaban complejos recursos informáticos y de gestión de datos que debían organizarse de forma eficaz para respaldar el trabajo innovador de los científicos de datos.
Creación de Metaflow
Metaflow se desarrolló en respuesta a estos desafíos. Se diseñó para simplificar el flujo de trabajo de los científicos de datos al eliminar las complejidades de ingeniería asociadas a los proyectos de aprendizaje automático. Esta plataforma permitió a los científicos de datos de Netflix centrarse más en la experimentación y menos en los sistemas subyacentes, lo que mejoró la productividad y la innovación.
Superar los desafíos del desarrollo del aprendizaje automático
Integración y gestión de sistemas de aprendizaje automático
Uno de los desafíos más importantes en el desarrollo de Metaflow fue la integración y administración de sistemas de aprendizaje automático complejos. Savin y su equipo necesitaban asegurarse de que Metaflow no solo pudiera satisfacer las diversas necesidades de los científicos de datos, sino que también se integrara perfectamente con las tecnologías existentes en Netflix. Esto requería un conocimiento profundo de los aspectos técnicos y operativos de los proyectos de aprendizaje automático.
Lecciones aprendidas de la implementación de tecnologías de aprendizaje automático
El desarrollo y la implementación de Metaflow proporcionaron numerosas lecciones sobre el manejo de tecnologías de aprendizaje automático a gran escala. Entre ellas figuraban la importancia de la escalabilidad, la necesidad de contar con sistemas de gestión de datos sólidos y los desafíos que supone garantizar que los sistemas de aprendizaje automático puedan funcionar de manera eficiente en diferentes entornos. Estas lecciones resultarían inestimables a medida que Savin avanzara hacia su próxima aventura.
Ampliando el horizonte con Outerbounds
De Netflix a Outerbounds
Basándose en sus experiencias en Netflix, Savin cofundó Outerbounds para llevar su trabajo con Metaflow al siguiente nivel. Outerbounds se creó con el objetivo de democratizar el acceso a herramientas sofisticadas de aprendizaje automático, lo que facilitaría a las empresas de diversos sectores la implementación de soluciones avanzadas de aprendizaje automático sin necesidad de crear una infraestructura compleja desde cero.
La misión de Outerbounds
La misión de Outerbounds es cerrar la brecha entre las capacidades avanzadas de aprendizaje automático desarrolladas en empresas como Netflix y el mercado en general que podría beneficiarse de estas innovaciones. Al proporcionar las herramientas y la experiencia necesarias para implementar soluciones de aprendizaje automático eficaces, Outerbounds tiene como objetivo capacitar a más organizaciones para que utilicen el aprendizaje automático para impulsar la innovación y la eficiencia.
El futuro del aprendizaje automático
A medida que el aprendizaje automático continúa evolucionando, el viaje de Savin de ingeniero de software a líder innovador en tecnología de aprendizaje automático resume la naturaleza dinámica del campo. Su trabajo con Metaflow y Outerbounds ilustra la necesidad constante de herramientas y plataformas que puedan adaptarse a la creciente complejidad de los proyectos de aprendizaje automático. De cara al futuro, las contribuciones de Savin están destinadas a seguir configurando el panorama del aprendizaje automático, ampliando los límites de lo que es posible y facilitando la adopción más amplia de esta tecnología transformadora.
TrueFoundry AI Gateway ofrece una latencia de entre 3 y 4 ms, gestiona más de 350 RPS en una vCPU, se escala horizontalmente con facilidad y está listo para la producción, mientras que LitellM presenta una latencia alta, tiene dificultades para superar un RPS moderado, carece de escalado integrado y es ideal para cargas de trabajo ligeras o de prototipos.
La forma más rápida de crear, gobernar y escalar su IA

















.png)


.webp)




.webp)







