Juegos las 24 horas del día, los 7 días de la semana — Personaliza los juegos con IA para sus 100 millones de usuarios

Mejorando los juegos con IA para más de 100 millones de jugadores con Games 24x7

Games 24x7 es una de las compañías de juegos pioneras del sudeste asiático. Con sede en Mumbai, la compañía tiene una base de usuarios activos de más de 100 millones de jugadores. La compañía tiene una cartera de múltiples juegos casuales y de habilidad y es una de las líderes en juegos con dinero real. Sus dos juegos más populares son RummyCircle (5 mil millones de juegos jugados en 2023) y My11Circle (más de 500 millones de equipos creados en 2023).

Uno de los principales diferenciadores de la empresa es su capacidad para utilizar la Inteligencia Artificial (IA) y la ciencia del comportamiento para hacer que la experiencia de juego sea más inmersiva. Esto se ve facilitado por la innovación llevada a cabo por el equipo de Inteligencia Artificial y Ciencia de Datos de la empresa. Cuando empezamos a interactuar con el equipo, querían acelerar el envío de los proyectos de IA eliminando algunos obstáculos que, a su juicio, les impedían avanzar. Entre ellas figuraban:

1. Retrasos debidos a idas y venidas con el equipo de ingeniería: El equipo de ciencia de datos dependía del equipo de ingeniería de sus necesidades relacionadas con la infraestructura. Este intercambio de ideas para probar y enviar los modelos supuso un gran retraso para el equipo de aprendizaje automático.
2. Alto costo de la nube y falta de escalado automático: El equipo estaba acostumbrado a observar el servicio durante las pruebas de carga y aprovisionó una instancia lo suficientemente grande como para adaptarse al tráfico. Gastaban de más en la nube, incluso durante períodos de poco tráfico, debido a la falta de escalado automático.
3. Ausencia de un método de despliegue común: Los científicos de datos a menudo perdían tiempo trabajando en componentes relacionados con Kubernetes, la infraestructura y la implementación, lo que no era su punto fuerte. Tampoco tenían un método de despliegue común y los científicos de datos tenían que llevar a cabo este tipo de acciones cada vez que querían realizar un despliegue.

El equipo de TrueFoundry se asoció con el equipo para resolver estos problemas. Con la plataforma TrueFoundry, el equipo pudo:

1. Reduzca el tiempo de implementación de nuevos modelos y proyectos en más de un 70%
2. Cree un método de despliegue común en toda la empresa, con prácticas recomendadas como la integración con git, la gestión de secretos, el ajuste de escala automático, etc., integradas.
3. Cree más visibilidad y facilidad de control para el equipo de ingeniería

Games 24x7 está revolucionando los juegos con inteligencia artificial

Games24x7 es una empresa de juegos científicos que se especializa en el uso de la ciencia del comportamiento, la tecnología y la inteligencia artificial para brindar experiencias de juego increíbles en todas sus plataformas.

La compañía opera en el panorama dinámico y en evolución de la industria del juego en línea, que ha experimentado un crecimiento significativo en la India y en todo el mundo. Los juegos en línea se han convertido en un importante segmento de entretenimiento, que atrae a una audiencia diversa. La compañía tiene como objetivo capturar la mayoría de la cuota de mercado de los juegos, especialmente en la India, que cuenta con más de 550 millones de jugadores.

Algunos de sus juegos con dinero real más populares incluyen:

1. Rummy Circle: Es un juego de cartas multijugador jugado por 2 a 6 jugadores. Con más de 5 mil millones de juegos jugados solo en 2023, RummyCircle brinda a los jugadores la emoción de la competencia y la alegría de ganar.
2. Mi círculo número 11: Es una aplicación de deportes de fantasía que permite a los usuarios jugar juegos fantásticos de cricket, fútbol y kabaddi y ganar premios en efectivo. Ha utilizado modelos de IA para ofrecer una experiencia personalizada desde su lanzamiento en 2019. Solo en 2023, se crearon más de 500 millones de equipos de fantasía, que premiaron a los jugadores por sus conocimientos y pasión por sus deportes favoritos.

‍

La compañía ahora se está expandiendo a más juegos de mesa y multijugador. Están invirtiendo activamente en tecnología de vanguardia y en nuevas empresas para promover su objetivo de crear experiencias más inmersivas y sociales para sus jugadores.

El equipo de Data Science quería ser autosuficiente

Cuando empezamos a trabajar con el equipo de Games 24x7, el equipo ya había estado ofreciendo modelos a sus millones de clientes. Sin embargo, para ofrecer modelos a esta escala, tenían que garantizar la fiabilidad y el rendimiento de los modelos antes de cada lanzamiento. Dado que el equipo no tenía experiencia propia en el manejo de la infraestructura ni en la realización de pruebas e implementaciones listas para la producción tuvieron que depender del equipo de ingeniería para lo siguiente:

1. Pruebas de carga: El equipo solo podía realizar por sí mismo pruebas de carga mínimas, lo que implicaba ejecutar las solicitudes en bucle. El equipo de ingeniería tuvo que realizar las pruebas de carga por sí mismo y enviar sus comentarios al equipo de ciencia de datos, que, a continuación, trabajó en los comentarios y los envió de nuevo al equipo de ingeniería para que los probara. Esto provocó semanas de retraso en el envío del modelo.
2. Escalado automático: El equipo se propuso reducir los costos mediante la implementación de un escalado automático dinámico basado en los patrones de tráfico, ya que la práctica actual de aprovisionar una instancia grande para el tráfico esperado del modelo generaba gastos innecesarios durante los períodos de menor tráfico.
3. Infraestructura de aprovisionamiento e implementación: El equipo de ciencia de datos siguió una serie de pasos para implementar y modelar, a menudo directamente desde sus dispositivos locales. La implementación también se llevó a cabo de forma atípica en todos los equipos y, a menudo, carecía de buenas prácticas, como el control de versiones, el seguimiento del linaje de datos, etc.
4. Inferencia asíncrona: El equipo escribió en repetidas ocasiones sidecars para consumir las solicitudes de una cola de Kafka. Esto llevó mucho tiempo y requirió un esfuerzo repetido para cada proyecto.
5. Implementación de un almacén de funciones: El equipo de ciencia de datos buscó implementar un almacén de funciones para la reutilización de los proyectos y el seguimiento de las funciones en todos los modelos. Si bien el equipo de ingeniería de datos tenía una solución similar, su facilidad de uso en proyectos de aprendizaje automático se vio obstaculizada por las dificultades de interacción directa.

El equipo de ingeniería y plataforma quería más visibilidad

Si bien el equipo de ciencia de datos quería más capacidad y velocidad, el equipo de ingeniería de la empresa quería más visibilidad y control para mantener la infraestructura segura y rentable. Algunos de los problemas a los que se enfrentaban eran:

1. Falta de estandarización en las implementaciones: La implementación no estándar dentro del equipo de DS hizo que atendieran solicitudes ad hoc para cada proyecto que se implementara. Además, cuando se implementaron, los modelos carecían de buenas prácticas de S.R.E., como el control de versiones, la integración con git, los puntos de control, la información sobre el linaje de datos, etc.
2. Visibilidad limitada del costo y el rendimiento de los modelos: Como las implementaciones estaban dispersas en diferentes tipos de infraestructura (EC2, Sagemaker, Databricks) y no había un repositorio centralizado de los recursos implementados, el equipo de ingeniería tuvo dificultades para hacer un seguimiento de la utilización de estos recursos, su rendimiento y optimizar los costos.

El equipo de Games 24x7 se convirtió en socio de diseño de TrueFoundry

Al analizar los requisitos del equipo, propusimos crear una configuración ideal para el equipo que pudiera resolver las preocupaciones tanto del equipo de ciencia de datos como del equipo de ingeniería. Sin embargo, el sistema ideal también habría requerido el desarrollo adicional de algunas funciones cruciales por parte del equipo de TrueFoundry. Algunas de estas funciones incluían las siguientes:

1. Servicio de inferencia asincrónica mediante un simple cambio de configuración: Esto permitiría al equipo de ciencia de datos implementar directamente servicios modelo para sus enormes cargas de tráfico sin temor a abandonar las solicitudes. Queríamos que esto fuera tan sencillo como que los desarrolladores pudieran cambiar de posición, en lugar de tener que crear un sidecar ellos mismos, algo que les había llevado mucho tiempo y esfuerzo.
2. Escalado automático a 200 RPS sin caídas de rendimiento: El equipo se propuso implementar el escalado automático para una utilización eficiente de los recursos sin comprometer el rendimiento del modelo ni introducir una latencia significativa. Probar y analizar el rendimiento del escalado automático fue crucial para tomar esta decisión.
3. Pruebas de carga fáciles de usar: Nuestro objetivo era ofrecer a los desarrolladores una interfaz de prueba de carga fácil de usar que utilizara Locust para simular los picos de tráfico esperados. Inicialmente, se proporcionaría como un script sencillo para los científicos de datos, con una opción posterior para una interfaz de usuario, lo que reduciría la dependencia del equipo de ingeniería.
4. Despliegue e integración de Kafka: Anteriormente, el equipo no tenía una instancia de desarrollo de Kafka, por lo que no podían emular escenarios similares a los de producción mientras realizaban pruebas posteriores al desarrollo. Queríamos ofrecer a los científicos de datos un método sencillo para implementar y empezar a utilizar aplicaciones como Kafka en entornos de desarrollo sin tener que depender del equipo de ingeniería.
5. Seguimiento de métricas y alertas: El equipo quería hacer un seguimiento del rendimiento de su modelo y activar alertas cada vez que se previera un problema relacionado con los recursos o el rendimiento. Esto ayudaría tanto al DS como al equipo de ingeniería a tomar medidas rápidas para solucionar cualquier problema.

En cada paso del proceso de creación de estas funciones, el equipo de Games 24 horas al día, 7 días a la semana, fue fundamental para probar lo que creamos y proporcionarnos comentarios críticos. Estos comentarios han sido fundamentales a la hora de configurar la productividad de estas funciones y permitir que nuestros otros clientes también puedan utilizarlas.

Con el apoyo del equipo de Games 24x7, ¡pudimos crear y enviar estas funciones al equipo en menos de un mes! Durante todo el proceso, el equipo de Games 24 horas al día, 7 días a la semana, actuó como nuestro socio.

¡Ayudamos al equipo a enviar proyectos 3 veces más rápido!

Cuando se completó el desarrollo de la mayoría de las nuevas funciones, ayudamos al equipo a organizarlo todo e implementarlo en la plataforma TrueFoundry de la manera escalable que era necesaria para sus niveles de tráfico.

Algunos de los principales valores añadidos que el equipo obtuvo al trabajar con TrueFoundry fueron:

El equipo de ciencia de datos podría ahorrar semanas si hiciera las cosas de forma independiente

Con la nueva configuración, el equipo de ciencia de datos podía realizar muchas tareas de forma independiente de las que antes tenían que depender del equipo de ingeniería. Algunos de los cambios incluyen:

1. Poder realizar pruebas de carga por sí mismos
2. Poder implementar Kafka en el entorno de desarrollo para realizar pruebas
3. Ser capaces de configurar el escalado automático por sí mismos

El equipo de ingeniería obtuvo más visibilidad y control

El equipo de ingeniería pudo tener una visión más precisa de las operaciones de aprendizaje automático al hacer uso de la plataforma TrueFoundry. La plataforma ayudó a proporcionar al equipo:

1. Panel único de todos los modelos desplegados
2. Visibilidad e información sobre la utilización de los recursos por parte de diferentes proyectos
3. Reducción de costos mediante la optimización de la asignación de recursos

Estandarización garantizada por la plataforma y mejores prácticas de SDE

Al hacer uso de la plataforma, el equipo pudo crear un modelo de implementación estándar con el que se puede implementar cualquier modelo dentro de la organización. Homogeneizó el proceso de implementación, por lo que anteriormente el equipo de ingeniería tenía que dedicar tiempo a cada proyecto por separado, lo que provocaba retrasos.

Debido al diseño de la plataforma, tan pronto como el equipo comenzó a implementar con TrueFoundry, algunas de las mejores prácticas de SDE se aplicaron automáticamente:

1. Todo el código está versionado en bitbucket: La plataforma dockerizó automáticamente el código de la confirmación requerida y lo implementó. Esto garantiza que todo el código esté versionado.
2. Todas las versiones anteriores se pueden volver a implementar: La plataforma guarda todas las versiones del modelo implementadas anteriormente para que cualquiera de ellas pueda volver a implementarse y revertir cualquier cambio.
3. Mantenimiento del linaje de datos: Todo el acceso a los datos y las funciones de datos se registra en la plataforma y se puede recuperar y consultar según sea necesario.
4. Almacenamiento de artefactos: La plataforma le dio al equipo mucha más libertad para registrar cualquier artefacto que quisiera con el control de versiones adecuado.

El equipo de Games 24x7 nos ayudó a crear nuevas funciones a la velocidad del rayo.

Trabajar con el equipo de Games 24x7 nos ayudó a crear algunas de las funciones que más utilizamos en la actualidad a un ritmo vertiginoso, lo que nos ayudó a ofrecer una versión lista para producción de estas funciones en un mes. Esto incluye funciones como:

1. Inferencia asincrónica
2. Pruebas de carga automatizadas para modelos
3. Integración y despliegue de Kafka
4. Métricas y alertas

Seguimos trabajando con el equipo de Games 24 horas al día, 7 días a la semana, y con esta asociación continua estamos intentando crear un producto que sea apreciado tanto por sus equipos de ciencia de datos como de ingeniería.