Games 24x7 — Personnalisez le jeu avec l'IA pour ses 100 millions d'utilisateurs

Améliorer le jeu grâce à l'IA pour plus de 100 millions de joueurs grâce à Games 24x7

Games 24x7 est l'une des sociétés de jeux pionnières d'Asie du Sud-Est. Basée à Mumbai, la société compte une base d'utilisateurs actifs de plus de 100 millions de joueurs. La société possède un portefeuille de multiples jeux d'adresse et occasionnels et est l'un des leaders des jeux en argent réel. Leurs deux jeux les plus populaires sont RummyCircle (5 milliards de parties jouées en 2023) et My11Circle (plus de 500 millions d'équipes créées en 2023).

L'un des principaux facteurs de différenciation de l'entreprise est sa capacité à utiliser l'intelligence artificielle (IA) et les sciences du comportement pour rendre l'expérience de jeu plus immersive. Cela est facilité par l'innovation menée par l'équipe d'intelligence artificielle et de science des données de l'entreprise. Lorsque nous avons commencé à interagir avec l'équipe, elle souhaitait accélérer la livraison des projets d'IA en supprimant quelques obstacles qui, selon elle, les freinaient. Il s'agissait notamment de :

1. Retards dus à des allers-retours avec l'équipe d'ingénierie : L'équipe de science des données dépendait de l'équipe d'ingénierie pour répondre à ses besoins en matière d'infrastructure. Ce va-et-vient pour les modèles de test et d'expédition a coûté beaucoup de temps à l'équipe ML.
2. Coût élevé du cloud et absence de mise à l'échelle automatique : L'équipe était habituée à observer le service pendant les tests de charge et a provisionné une instance suffisamment grande pour accueillir le trafic. Ils dépensaient trop pour les coûts du cloud, même pendant les périodes de faible trafic, en raison de l'absence de mise à l'échelle automatique.
3. Absence de méthode de déploiement commune : Les data scientists perdaient souvent du temps à travailler sur des composants liés à Kubernetes, à l'infrastructure et au déploiement, ce qui n'était pas leur point fort. Ils ne disposaient pas non plus d'une méthode de déploiement commune et les data scientists devaient effectuer de telles actions chaque fois qu'ils souhaitaient effectuer un déploiement.

L'équipe TrueFoundry s'est associée à l'équipe pour résoudre ces problèmes. Grâce à la plateforme TrueFoundry, l'équipe a pu :

1. Réduire le temps de déploiement de nouveaux modèles et projets de plus de 70 %
2. Créez une méthode de déploiement commune à l'échelle de l'entreprise, intégrant les meilleures pratiques telles que l'intégration de git, la gestion des secrets, la mise à l'échelle automatique, etc.
3. Offrez plus de visibilité et de facilité de contrôle à l'équipe d'ingénierie

Games 24x7 révolutionne le jeu grâce à l'intelligence artificielle

Games24x7 est une société de jeux scientifiques spécialisée dans l'utilisation des sciences du comportement, de la technologie et de l'intelligence artificielle pour offrir des expériences de jeu exceptionnelles sur ses plateformes.

La société évolue dans le paysage dynamique et évolutif de l'industrie du jeu en ligne, qui a connu une croissance significative en Inde et dans le monde. Les jeux en ligne sont devenus un segment de divertissement majeur, attirant un public diversifié. La société vise à conquérir la majorité des parts de marché des jeux vidéo, en particulier en Inde, qui compte plus de 550 millions de joueurs.

Certains de ses jeux en argent réel les plus populaires incluent :

1. Rami Circle : Il s'agit d'un jeu de cartes multijoueur joué par 2 à 6 joueurs. Avec plus de 5 milliards de parties jouées rien qu'en 2023, RummyCircle apporte aux joueurs le frisson de la compétition et la joie de gagner.
2. Mon 11 cercle : Il s'agit d'une application de sports fantastiques qui permet aux utilisateurs de jouer à des jeux fantastiques de cricket, de football et de kabaddi et de gagner des prix en espèces. Il utilise des modèles d'IA pour offrir une expérience personnalisée depuis son lancement en 2019. Rien qu'en 2023, plus de 500 millions d'équipes fantastiques ont été créées, récompensant les joueurs pour leurs connaissances et leur passion pour leur sport favori.

‍

La société s'étend désormais à davantage de jeux de plateau et multijoueurs. Ils investissent activement dans les technologies de pointe et les startups afin de poursuivre leur objectif de créer des expériences plus immersives et sociales pour ses joueurs.

L'équipe Data Science voulait être autonome

Lorsque nous avons commencé à travailler avec l'équipe de Games 24x7, l'équipe proposait déjà des modèles à ses millions de clients. Cependant, pour proposer des modèles à cette échelle, ils devaient s'assurer de la fiabilité et des performances des modèles avant chaque sortie. Étant donné que l'équipe ne possédait pas d'expertise personnelle en matière de gestion de l'infrastructure et de réalisation de tests et de déploiements prêts à la production ils ont dû compter sur l'équipe d'ingénieurs pour ce qui suit:

1. Test de charge : L'équipe n'a pu effectuer elle-même que des tests de charge minimaux impliquant l'exécution de requêtes en boucle. L'équipe d'ingénierie a dû effectuer elle-même les tests de charge et fournir des commentaires à l'équipe de science des données, qui a ensuite travaillé sur les commentaires et les a renvoyés à nouveau à l'équipe d'ingénierie pour les tests. Cela a entraîné des semaines de retard dans l'expédition du modèle.
2. Mise à l'échelle automatique : L'équipe avait pour objectif de réduire les coûts en mettant en œuvre une mise à l'échelle automatique dynamique basée sur les modèles de trafic, car la pratique actuelle consistant à provisionner une instance de grande taille pour le trafic de modèle attendu entraînait des dépenses inutiles pendant les périodes de faible trafic.
3. Approvisionnement et déploiement de l'infrastructure : L'équipe de science des données a suivi une série d'étapes pour déployer et modéliser, souvent directement à partir de ses appareils locaux. Le déploiement s'est également déroulé de manière non standard entre les équipes et manquait souvent de bonnes pratiques telles que le contrôle des versions, le suivi du lignage des données, etc.
4. Inférence asynchrone : L'équipe a écrit à plusieurs reprises des sidecars pour traiter les demandes provenant d'une file d'attente de Kafka. Cela a pris beaucoup de temps et a nécessité des efforts répétés pour chaque projet.
5. Implémentation d'un magasin de fonctionnalités : L'équipe de science des données a cherché à implémenter un magasin de fonctionnalités pour la réutilisation des projets et le suivi des fonctionnalités sur tous les modèles. Bien que l'équipe d'ingénierie des données disposait d'une solution similaire, sa facilité d'utilisation dans les projets d'apprentissage automatique était entravée par des difficultés d'interaction directe.

L'équipe chargée de la plateforme et de l'ingénierie souhaitait plus de visibilité.

Alors que l'équipe chargée de la science des données souhaitait plus d'autonomie et de rapidité, l'équipe d'ingénierie de l'entreprise souhaitait davantage de visibilité et de contrôle pour que l'infrastructure reste optimale et sécurisée en termes de coûts. Certains des problèmes auxquels ils étaient confrontés étaient les suivants :

1. Absence de standardisation dans les déploiements : Un déploiement non standard au sein de l'équipe DS leur a permis de répondre à des demandes ad hoc pour chaque projet à déployer. De plus, lors du déploiement, les modèles ne disposaient pas de bonnes pratiques S.R.E., telles que la gestion des versions, l'intégration de git, les points de contrôle, les informations de traçabilité des données, etc.
2. Visibilité limitée des coûts et des performances des modèles : Étant donné que les déploiements étaient éparpillés sur différents types d'infrastructures (EC2, Sagemaker, Databricks) et qu'il n'existait pas de référentiel centralisé des ressources déployées, l'équipe d'ingénierie a eu du mal à suivre l'utilisation de ces ressources, leurs performances et à optimiser les coûts.

L'équipe Games 24x7 est devenue partenaire de conception avec TrueFoundry

En tenant compte des exigences de l'équipe, nous avons proposé de créer une configuration idéale pour l'équipe capable de résoudre les problèmes de l'équipe de science des données et de l'équipe d'ingénierie. Cependant, le système idéal aurait également nécessité des développements supplémentaires de certaines fonctionnalités cruciales par l'équipe TrueFoundry. Certaines de ces fonctionnalités impliquaient les suivantes :

1. Service d'inférence asynchrone par simple changement de configuration : Cela permettrait à l'équipe de science des données de déployer directement des services modèles pour ses énormes volumes de trafic sans craindre d'être abandonnés sur demande. Nous voulions que cela soit aussi simple qu'une simple bascule pour les développeurs au lieu d'avoir à écrire eux-mêmes un sidecar, ce qui leur demandait beaucoup de temps et d'efforts.
2. Mise à l'échelle automatique jusqu'à 200 images par seconde sans baisse des performances : L'équipe avait pour objectif de mettre en œuvre la mise à l'échelle automatique pour une utilisation efficace des ressources sans compromettre les performances du modèle ni introduire de latence significative. Les tests et l'analyse des performances de mise à l'échelle automatique ont été essentiels pour prendre cette décision.
3. Test de charge facile à utiliser : Notre objectif était d'offrir aux développeurs une interface de test de charge conviviale utilisant Locust pour simuler les pics de trafic attendus. Dans un premier temps, il serait fourni sous la forme d'un simple script pour les data scientists, avec une option ultérieure pour une interface utilisateur, réduisant ainsi la dépendance à l'égard de l'équipe d'ingénierie.
4. Déploiement et intégration de Kafka : Auparavant, l'équipe ne possédait pas d'instance de développement de Kafka et ne pouvait donc pas émuler des scénarios similaires à ceux de la production lors des tests de post-développement. Nous voulions proposer aux data scientists une méthode simple pour déployer et commencer à utiliser des applications telles que Kafka dans des environnements de développement sans avoir à faire appel à l'équipe d'ingénierie.
5. Suivi des métriques et alertes : L'équipe souhaitait suivre les performances de son modèle et déclencher des alertes chaque fois qu'un problème lié aux ressources ou aux performances était anticipé. Cela permettrait à la fois à l'équipe DS et à l'équipe d'ingénierie de prendre des mesures rapides pour résoudre les problèmes.

À chaque étape du développement de ces fonctionnalités, l'équipe de Games 24x7 a joué un rôle essentiel en testant ce que nous avons créé et en nous fournissant des commentaires critiques. Ces commentaires ont joué un rôle essentiel dans la mise en production de ces fonctionnalités et ont permis à nos autres clients de les utiliser également.

Grâce au soutien de l'équipe Games 24 heures sur 24, 7 jours sur 7, nous avons pu créer et expédier ces fonctionnalités à l'équipe en moins d'un mois ! Tout au long du processus, l'équipe de Games 24x7 a agi en tant que partenaire pour nous.

Nous avons aidé l'équipe à expédier les projets 3 fois plus vite !

Une fois le développement de la plupart des nouvelles fonctionnalités terminé, nous avons aidé l'équipe à les assembler et à les déployer sur la plateforme TrueFoundry de manière évolutive, en fonction de leurs niveaux de trafic.

Voici quelques-unes des principales valeurs ajoutées que l'équipe a pu tirer de sa collaboration avec TrueFoundry :

L'équipe de data science pourrait gagner des semaines en faisant les choses de manière indépendante

Grâce à la nouvelle configuration, l'équipe de science des données a pu effectuer de nombreuses tâches de manière indépendante, alors qu'elle devait auparavant dépendre de l'équipe d'ingénierie. Parmi les modifications, citons :

1. Être capable de réaliser des tests de charge par ses propres moyens
2. Être capable de déployer Kafka dans l'environnement de développement à des fins de test
3. Pouvoir configurer la mise à l'échelle automatique par ses propres moyens

L'équipe d'ingénierie a obtenu plus de visibilité et de contrôle

L'équipe d'ingénierie a pu avoir une vision plus précise des opérations de machine learning en utilisant la plateforme TrueFoundry. La plateforme a permis de fournir à l'équipe :

1. Tableau de bord unique de tous les modèles déployés
2. Visibilité et informations sur l'utilisation des ressources par différents projets
3. Réduction des coûts grâce à l'optimisation de l'allocation des ressources

Standardisation garantie par la plateforme et meilleures pratiques SDE

En utilisant la plateforme, l'équipe a pu créer un modèle de déploiement standard permettant de déployer n'importe quel modèle au sein de l'organisation. Cela a permis d'homogénéiser le processus de déploiement pour lequel l'équipe d'ingénierie devait auparavant consacrer du temps séparément à chaque projet, ce qui a entraîné des retards.

En raison de la conception de la plate-forme, certaines des meilleures pratiques SDE ont été appliquées automatiquement dès que l'équipe a commencé à déployer TrueFoundry :

1. Tout le code est versionné sur bitbucket : La plateforme a automatiquement dockerisé le code à partir du commit requis et l'a déployé. Cela garantit que tout le code est versionné.
2. Toutes les versions précédentes peuvent être redéployées : La plateforme enregistre toutes les versions de modèles précédemment déployées afin que chacune d'entre elles puisse être redéployée pour annuler les modifications.
3. Maintien de la traçabilité des données : Tous les accès aux données et aux fonctionnalités de données sont enregistrés sur la plateforme et peuvent être récupérés et interrogés selon les besoins.
4. Entreposage des objets : La plateforme a donné à l'équipe beaucoup plus de liberté pour enregistrer tous les artefacts qu'elle souhaitait avec un contrôle de version approprié.

L'équipe Games 24x7 nous a aidés à créer de nouvelles fonctionnalités à la vitesse de l'éclair

La collaboration avec l'équipe Games 24 h/24 et 7 j/7 nous a permis de développer certaines de nos fonctionnalités les plus utilisées aujourd'hui à un rythme effréné, ce qui nous a permis de proposer une version prête à la production de ces fonctionnalités en un mois. Cela inclut des fonctionnalités telles que :

1. Inférence asynchrone
2. Tests de charge automatisés pour les modèles
3. Intégration et déploiement de Kafka
4. Métriques et alertes

Nous continuons à travailler avec l'équipe de Games 24 heures sur 24, 7 jours sur 7, et grâce à ce partenariat continu, nous essayons de créer un produit apprécié à la fois par leurs équipes de science des données et d'ingénierie.