TrueML Talks #28 - GenAI et LLMs pour la promotion des ventes @ OneShot
Conçu pour la vitesse : latence d'environ 10 ms, même en cas de charge
Une méthode incroyablement rapide pour créer, suivre et déployer vos modèles !
- Gère plus de 350 RPS sur un seul processeur virtuel, aucun réglage n'est nécessaire
- Prêt pour la production avec un support complet pour les entreprises
Nous sommes de retour avec un autre épisode de True ML Talks. Dans ce cadre, nous approfondissons à nouveau GenAI et LLMs pour la sensibilisation des ventes chez OneShot et nous discutons avec Péda Venki Pola
Venki est le fondateur et le directeur technique de OneShot et avant cela, il a travaillé chez Salesforce en tant qu'architecte logiciel. OneShot aide les entreprises SaaS B2B à se hisser au sommet de l'entonnoir pour leur activité.
📌
Nos conversations avec Venki porteront sur les aspects suivants :
- Sensibilisation des ventes alimentée par l'IA
- Modèle de tarification unique chez OneShot
- Tech Stack chez OneShot
- Comment OneShot gère les LLM à l'aide d'invites
- Full-Stack passe à l'IA : comment les LLM redéfinissent le développement
- Préparez votre entreprise pour l'avenir : tirez parti des LLM pour réussir
Regardez l'épisode complet ci-dessous :
Sensibilisation des ventes grâce à l'IA
La sensibilisation aux ventes basée sur l'IA de OneShot commence par votre profil client idéal (ICP). Ils ne se contentent pas de vous croire sur parole ; ils analysent les données de vos clients existants pour identifier des tendances et suggérer le public cible idéal.
Une fois l'ICP défini, l'IA de OneShot passe en mode overdrive. Ils tirent parti de leurs modèles et d'outils open source tels que Hugging Face's Hub pour parcourir le Web, en extrayant des données à partir de profils LinkedIn, de sites Web d'entreprises et même de rapports financiers. Cette mine d'informations est ensuite résumée et analysée par de puissants LLM tels que GPT-4 et Claude, révélant ainsi des informations sur les entreprises et les particuliers que les outils de vente traditionnels ne peuvent tout simplement pas égaler.
Mais les données ne constituent que la base. OneShot utilise sa compréhension de votre entreprise et les informations glanées lors de la recherche de prospects pour générer des messages de sensibilisation personnalisés qui trouvent un écho. Fini les salutations génériques et les présentations impersonnelles : chaque message est adapté aux besoins et aux intérêts spécifiques du destinataire.
OneShot ne s'arrête pas aux e-mails. Ils peuvent automatiser la diffusion sur plusieurs canaux, y compris les messages LinkedIn et même les scripts d'appel, afin que votre message parvienne à vos prospects où qu'ils se trouvent.
L'IA de OneShot apprend et évolue constamment. Ils suivent les performances de leurs campagnes de sensibilisation en utilisant l'apprentissage par renforcement pour identifier ce qui fonctionne le mieux et adapter leurs stratégies en conséquence. Cela garantit que vos efforts de sensibilisation sont toujours optimisés pour un impact maximal.
Les deux faces de la médaille
La sensibilisation basée sur l'IA comporte deux dimensions :
- Expéditeur : Les entreprises qui utilisent l'IA pour envoyer des messages sont confrontées à des préoccupations en matière de transparence et d'approbation. OneShot propose des options telles que les modes copilote et pilote automatique, permettant aux utilisateurs de consulter et de personnaliser le contenu généré par l'IA avant de l'envoyer.
- Récepteur : Certains peuvent trouver les messages générés par l'IA impersonnels, mais nombreux sont ceux qui apprécient la recherche et la personnalisation qu'ils proposent. Il s'agit de passer des salutations génériques à un contenu ciblé qui suscite un véritable intérêt.
Humaniser les robots
Les solutions d'IA génériques ne fonctionneront pas à long terme. Les entreprises doivent :
- Personnaliser la langue : Adaptez le ton et le style de l'IA à la voix de votre marque et à votre public. Imaginez des messages personnalisés pour les directeurs techniques plutôt que pour les contributeurs individuels.
- Tirez parti des données commerciales : Entraînez des modèles d'IA à partir de vos données spécifiques pour générer des messages qui trouvent un écho auprès de vos clients idéaux.
L'avenir de l'IA collaborative
L'IA ne remplace pas les humains, elle les augmente. Imaginez :
- L'IA gère les démarches : Rechercher des prospects, rédiger des messages initiaux et automatiser les tâches répétitives.
- Des humains qui apportent une touche personnelle : Examiner et affiner les résultats de l'IA, établir des relations et conclure des transactions
Modèle de tarification unique @ OneShot
Les personnes, pas les ventes : une approche différente de la tarification
Contrairement aux logiciels de vente traditionnels, OneShot ne facture pas en fonction des transactions conclues. Ils se concentrent sur ce qu'ils peuvent contrôler directement : le nombre de prospects que vous atteignez. Pourquoi cette approche ?
- Concentrez-vous sur le voyage : Atteindre les bonnes personnes est crucial pour réussir dans les ventes, même si toutes les interactions ne mènent pas à une transaction.
- Transparence et équité : Les entreprises ne paient que pour les efforts de sensibilisation, et non pour des résultats imprévisibles tels que les taux de clôture.
Au-delà des chiffres : personnaliser la valeur
Ce n'est pas qu'une question de quantité ; OneShot prend également en compte la qualité de la diffusion. Leurs prix reflètent :
- Profondeur de la recherche : Avez-vous besoin d'informations de base ou d'une analyse approfondie de chaque prospect ?
- Messages alimentés par l'IA : Combien de messages personnalisés allez-vous envoyer par prospect ?
- Portée multicanale : E-mails, LinkedIn, appels : choisissez les canaux qui correspondent à votre stratégie.
Un modèle de réussite mutuelle
Cette structure tarifaire profite à la fois à OneShot et à ses clients :
- Un seul coup : Ils sont incités à fournir des prospects et un engagement de haute qualité.
- Clientèle : Ils ne paient que pour les activités de sensibilisation dont ils ont besoin et voient la valeur de chaque connexion potentielle.
Tech Stack @ OneShot
De Langchain à la construction de leur propre
OneShot a commencé avec Langchain, une boîte à outils AI/ML populaire. Bien qu'il offrait une bonne base, il n'avait pas la flexibilité nécessaire pour répondre aux besoins spécifiques de OneShot. Ils sont donc en train de revenir à une solution personnalisée qui leur permet de créer des éléments tels qu'une « passerelle » pour se connecter à plusieurs modèles d'IA.
À la recherche d'intégrations parfaites
OneShot effectue des recherches dans une base de données massive de 40 millions d'entreprises pour trouver la solution idéale pour chaque entreprise. Pour ce faire, ils utilisent différents outils :
- Intégrations GPT : Ils saisissent le sens du texte et aident à trouver des entreprises pertinentes en fonction de mots clés et de descriptions.
- Bases de données Pinecone et autres bases de données vectorielles : Ils stockent les intégrations de manière efficace et permettent des recherches rapides.
- Modèles ChatGPT : Ils analysent la requête de l'utilisateur et identifient les articles de connaissances les plus pertinents.
- Changer de LLM à la volée : En fonction de la tâche, OneShot peut utiliser différents modèles tels que GPT-4 ou Claude.
Tirer parti de l'open source
OneShot ne fait pas cavalier seul. Ils s'appuient sur des outils open source tels que le vôtre pour affiner les modèles et les solutions d'hébergement, garantissant ainsi l'efficacité et l'accès aux dernières avancées.
Défis et leçons apprises
La création d'une plateforme d'IA n'est pas sans obstacles. OneShot fait face à des défis tels que :
- Équilibrer flexibilité et facilité d'utilisation : Répondre à la fois aux besoins des utilisateurs férus de technologie et non techniques nécessite des choix de conception minutieux.
- Suivre l'évolution du paysage du LLM : De nouveaux modèles et outils apparaissent constamment, nécessitant adaptation et exploration.
- Surveillance et maintenance du moteur d'IA : Garantir des performances et une fiabilité optimales est essentiel pour la confiance des utilisateurs.
L'avenir de OneShot :
OneShot s'appuie actuellement sur son API pour se connecter à des modèles d'IA, mais l'entreprise explore de nouveaux horizons. Au fur et à mesure de leur évolution, ils envisagent de s'intégrer à des plateformes telles qu'Azure OpenAI pour accéder à un plus large éventail de modèles.
Cependant, OneShot innove constamment. Ils explorent des possibilités telles que :
- Apporter votre propre LLM : Permettre aux utilisateurs de choisir leurs modèles préférés pour encore plus de personnalisation.
- Intégration MLOps : Tirer parti des plateformes pour une surveillance et une gestion robustes de leur infrastructure d'IA.
En faisant preuve de flexibilité, en relevant les défis et en gardant une longueur d'avance, OneShot construit une plateforme d'IA puissante et accessible qui permet aux entreprises de réussir.
Comment OneShot gère les LLM à l'aide d'invites
Considérez les invites comme des instructions ou des questions qui aident le LLM à comprendre les informations que vous recherchez.
OneShot n'utilise pas d'approche universelle. Ils fournissent des instructions différentes pour différentes utilisations :
- Qualification principale : Est-ce la bonne personne à contacter ? Les instructions aident l'IA à analyser les données et à vous donner une réponse claire par oui ou par non.
- Extraction d'informations : Résumez les principaux points concernant l'activité d'un prospect. Les instructions guident l'IA pour trouver les informations pertinentes et les présenter de manière concise.
- Création de contenu commercial : Créez des e-mails, des messages LinkedIn et des scripts d'appel personnalisés. Les instructions aident l'IA à adapter le contenu à votre prospect spécifique et au ton souhaité.
OneShot donne du pouvoir à ses utilisateurs en leur donnant le contrôle des invites. Vous pouvez choisir le modèle sur lequel exécuter les instructions et ajuster des paramètres tels que « créatif » ou « déterministe » pour affiner les résultats.
Full-Stack passe à l'IA : comment les LLM redéfinissent le développement
Vous vous souvenez de l'époque où « développeur full stack » signifiait jongler entre le front-end et le back-end ? Eh bien, passez à autre chose, car l'IA fait désormais partie de l'équation ! Les LLM sont en train de changer complètement le paysage du développement :
1. L'IA est le nouveau « full stack » : Ce n'est plus qu'une question de code. Les développeurs doivent désormais comprendre les fonctions de l'IA, les intégrations et Plateformes MLOps. L'ensemble du pipeline est imprégné d'IA !
2. L'IA est banalisée : La création et l'utilisation de modèles d'IA sont plus faciles que jamais grâce à des plateformes conviviales. Les développeurs peuvent désormais se concentrer sur le réglage et la personnalisation.
3. Les chatbots sont les nouveaux copilotes : L'époque des recherches interminables sur Google est révolue. Les ingénieurs peuvent désormais tirer parti d'assistants d'IA tels que ChatGPT pour écrire un meilleur code et améliorer leur productivité.
Préparez votre entreprise pour l'avenir : tirer parti des LLM pour réussir
Le monde de l'IA évolue rapidement et les grands modèles linguistiques (LLM) sont à l'avant-garde de ce changement. Mais avec tant d'innovations, il peut être difficile de savoir par où commencer et comment préparer votre entreprise pour l'avenir.
Les LLM ne sont plus un concept futuriste. Ils sont là, ils sont accessibles et ils offrent une réelle valeur ajoutée à différents départements commerciaux. Qu'il s'agisse d'améliorer la productivité des employés des ventes et du marketing ou de créer des expériences personnalisées pour les clients, l'intégration des LLM à votre flux de travail peut vous apporter des avantages concurrentiels importants.
Cependant, il suffit de mettre en œuvre des solutions LLM génériques. Pour vraiment exploiter leur potentiel, vous devez personnaliser en fonction de vos processus métier spécifiques. Cela implique de peaufiner les modèles, d'intégrer l'expertise humaine et d'utiliser des plateformes MLOps efficaces pour une amélioration continue. N'oubliez pas que les LLM sont des outils et que c'est votre expertise dans leur application qui vous distingue.
Conseils pratiques pour les lecteurs :
- Commencez petit et expérimentez : N'essayez pas de faire bouillir l'océan. Choisissez un défi commercial spécifique dans lequel les LLM peuvent apporter une valeur ajoutée claire et commencez à expérimenter différents modèles et applications.
- Concentrez-vous sur la personnalisation : N'oubliez pas que les solutions universelles fonctionnent rarement. Investissez du temps pour comprendre vos besoins uniques et adapter les solutions LLM à votre contexte spécifique.
- Instaurez une culture d'apprentissage continu : Le paysage du LLM est en constante évolution. Restez informé, explorez les nouveaux développements et encouragez votre équipe à adopter l'apprentissage continu dans ce domaine dynamique.
Lisez nos précédents articles de la série True ML Talks :
Continuez à regarder le TrueML série youtube et en lisant le TrueML série de blogs.
True Foundry est un PaaS de déploiement de machine learning sur Kubernetes destiné à accélérer les flux de travail des développeurs tout en leur offrant une flexibilité totale dans les tests et le déploiement de modèles, tout en garantissant une sécurité et un contrôle complets à l'équipe Infra. Grâce à notre plateforme, nous permettons aux équipes de machine learning de déployer et surveiller des modèles en 15 minutes avec une fiabilité à 100 %, une évolutivité et la possibilité de revenir en arrière en quelques secondes, ce qui leur permet de réduire les coûts et de mettre les modèles en production plus rapidement, ce qui permet de réaliser une véritable valeur commerciale.
TrueFoundry AI Gateway offre une latence d'environ 3 à 4 ms, gère plus de 350 RPS sur 1 processeur virtuel, évolue horizontalement facilement et est prête pour la production, tandis que LiteLM souffre d'une latence élevée, peine à dépasser un RPS modéré, ne dispose pas d'une mise à l'échelle intégrée et convient parfaitement aux charges de travail légères ou aux prototypes.
Le moyen le plus rapide de créer, de gérer et de faire évoluer votre IA













.webp)



.png)


.webp)




.webp)







