محادثات TrueML #28 - الذكاء الاصطناعي التوليدي (GenAI) ونماذج اللغة الكبيرة (LLMs) للتواصل البيعي في OneShot
Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support
We are back with another episode of True ML Talks. In this, we again dive deep into GenAI and LLMs for Sales Outreach at OneShot and we are speaking with Peda Venki Pola
Venki is the founder and CTO at OneShot and before this, he worked at Salesforce as a Software Architect. OneShot helps B2B SaaS companies to generate the top of the funnel for their business.
📌
Our conversations with Venki will cover below aspects:
- AI-Powered Sales Outreach
- Unique pricing model at OneShot
- Tech Stack at OneShot
- How OneShot Manages LLMs with Prompts
- Full-Stack Goes AI: How LLMs are Redefining Development
- Futureproof Your Business: Leveraging LLMs for Success
Watch the full episode below:
AI-Powered Sales Outreach
OneShot's AI-Powerered Sales Outreach starts with your Ideal Customer Profile (ICP). They don't just take your word for it; they analyze your existing customer data to identify patterns and suggest the perfect target audience.
Once the ICP is defined, OneShot's AI goes into overdrive. They leverage their models and open-source tools like Hugging Face's Hub to scour the web, scraping data from LinkedIn profiles, company websites, and even financial reports. This treasure trove of information is then summarized and analyzed by powerful LLMs like GPT-4 and Claude, revealing insights about companies and individuals that traditional sales tools simply can't match.
But data is just the foundation. OneShot uses its understanding of your business and the insights gleaned from prospect research to generate personalized outreach messages that resonate. No more generic greetings and impersonal pitches – each message is tailored to the specific needs and interests of the recipient.
OneShot doesn't stop at email. They can automate outreach across multiple channels, including LinkedIn messages and even call scripts, ensuring your message reaches your prospects wherever they are.
OneShot's AI is constantly learning and evolving. They track the performance of their outreach campaigns, using reinforcement learning to identify what works best and adapt their strategies accordingly. This ensures that your outreach efforts are always optimized for maximum impact.
Two Sides of the Coin
AI-powered outreach has two dimensions:
- Sender: Businesses using AI to send messages face concerns about transparency and approval. OneShot offers options like co-pilot and autopilot modes, allowing users to review and personalize AI-generated content before sending.
- Receiver: While some may find AI-generated messages impersonal, many appreciate the research and personalization they offer. It's a shift from generic greetings to targeted content that sparks genuine interest.
Humanizing the Bots
Generic AI solutions won't work long-term. Businesses need to:
- Customize Language: Adapt the AI's tone and style to your brand voice and audience. Imagine tailoring messages for CTOs versus individual contributors.
- Leverage Business Data: Train AI models on your specific data to generate messages that resonate with your ideal customers.
A Future of Collaborative AI
AI isn't replacing humans, it's augmenting them. Imagine:
- AI handling the legwork: Researching prospects, crafting initial messages, and automating repetitive tasks.
- Humans adding the personal touch: Reviewing and refining AI output, building relationships, and closing deals
Unique pricing model @ OneShot
People, Not Sales: A Different Approach to Pricing
Unlike traditional sales software, OneShot doesn't charge based on closed deals. They focus on what they can directly control: the number of prospects you reach. Why this approach?
- Focus on the Journey: Reaching the right people is crucial for sales success, even if not every interaction leads to a deal.
- Transparency and Fairness: Businesses only pay for outreach efforts, not for unpredictable outcomes like closing rates.
Beyond Just Numbers: Tailoring Value
It's not just about quantity; OneShot considers the quality of outreach as well. Their pricing reflects:
- Research Depth: Do you need basic info or an in-depth analysis of each prospect?
- AI-Powered Messages: How many personalized messages will you send per prospect?
- Multi-Channel Reach: Email, LinkedIn, calls – choose the channels that fit your strategy.
A Model for Mutual Success
This pricing structure benefits both OneShot and its customers:
- OneShot: They're incentivized to deliver high-quality leads and engagement.
- Customers: They only pay for the outreach they need and see the value in each potential connection.
Tech Stack @ OneShot
From Langchain to Building Their Own
OneShot started with Langchain, a popular AI/ML toolkit. While it offered a good foundation, it lacked the flexibility needed for OneShot's specific needs. So, they're transitioning back to a custom-built solution that allows them to create things like a "gateway" for connecting to multiple AI models.
The Quest for Perfect Embeddings
OneShot searches through a massive database of 40 million companies to find the perfect fit for each business. To achieve this, they use various tools:
- GPT Embeddings: These capture the meaning of text and help find relevant companies based on keywords and descriptions.
- Pinecone & Other Vector Databases: These store the embeddings efficiently and enable fast searches.
- ChatGPT Models: These analyze the user's query and identify the most relevant knowledge articles.
- Switching LLMs on the Fly: Depending on the task, OneShot can use different models like GPT-4 or Claude.
Leveraging Open Source
OneShot doesn't go it alone. They leverage open-source tools like yours for fine-tuning models and hosting solutions, ensuring efficiency and access to the latest advancements.
Challenges and Lessons Learned
Building an AI platform isn't without its hurdles. OneShot faces challenges like:
- Balancing Flexibility with User-Friendliness: Catering to both tech-savvy and non-technical users requires careful design choices.
- Keeping Up with the Evolving LLM Landscape: New models and tools emerge constantly, requiring adaptation and exploration.
- Monitoring and Maintaining the AI Engine: Ensuring smooth performance and reliability is crucial for user trust.
The Future of OneShot:
OneShot currently relies on its API to connect to AI models, but they're exploring new horizons. As they scale, they're considering integrating with platforms like Azure OpenAI to access a wider range of models.
However, OneShot is constantly innovating. They're exploring possibilities like:
- Bringing Your Own LLM: Allowing users to choose their preferred models for even more customization.
- MLOps Integration: Leveraging platforms for robust monitoring and management of their AI infrastructure.
By embracing flexibility, tackling challenges, and staying ahead of the curve, OneShot is building a powerful and accessible AI platform that empowers businesses to achieve success.
How OneShot Manages LLMs with Prompts
Think of prompts as instructions or questions that help the LLM understand what information you're looking for.
OneShot doesn't use a one-size-fits-all approach. They provide different prompts for different uses:
- Lead Qualification: هل هذا هو الشخص المناسب للتواصل معه؟ تساعد المطالبات الذكاء الاصطناعي على تحليل البيانات وتقديم إجابة واضحة بنعم أو لا.
- استخلاص المعلومات: لخص النقاط الرئيسية حول عمل عميل محتمل. توجه المطالبات الذكاء الاصطناعي للعثور على المعلومات ذات الصلة وتقديمها بإيجاز.
- إنشاء محتوى المبيعات: صمم رسائل بريد إلكتروني مخصصة، ورسائل LinkedIn، ونصوص مكالمات. تساعد المطالبات الذكاء الاصطناعي على تكييف المحتوى ليناسب عميلك المحتمل المحدد والنبرة المطلوبة.
يمكّن OneShot مستخدميه من خلال منحهم التحكم في المطالبات. يمكنك اختيار النموذج لتشغيل المطالبات عليه وتعديل الإعدادات مثل "إبداعي" أو "حتمي" لضبط النتائج بدقة.
المكدس الكامل يتجه نحو الذكاء الاصطناعي: كيف تعيد نماذج اللغات الكبيرة (LLMs) تعريف التطوير
هل تتذكر الأيام التي كان فيها "مطور المكدس الكامل" يعني التوفيق بين الواجهة الأمامية والخلفية؟ حسنًا، تنحَّ جانبًا، لأن الذكاء الاصطناعي أصبح الآن جزءًا من المعادلة! نماذج اللغات الكبيرة (LLMs) تغير مشهد التطوير بالكامل:
1. الذكاء الاصطناعي هو "المكدس الكامل" الجديد: لم يعد الأمر يتعلق بالتعليمات البرمجية فقط. يحتاج المطورون الآن إلى فهم وظائف الذكاء الاصطناعي، والتضمينات، و منصات MLOps. خط الأنابيب بأكمله مشبع بالذكاء الاصطناعي!
2. أصبح الذكاء الاصطناعي سلعة: أصبح بناء واستخدام نماذج الذكاء الاصطناعي أسهل من أي وقت مضى بفضل المنصات سهلة الاستخدام. يمكن للمطورين الآن التركيز على الضبط الدقيق والتخصيص.
3. روبوتات الدردشة هي المساعدون الجدد: ولت أيام البحث اللانهائي في جوجل. يمكن للمهندسين الآن الاستفادة من مساعدي الذكاء الاصطناعي مثل ChatGPT لكتابة تعليمات برمجية أفضل وتعزيز إنتاجيتهم.
اجعل عملك جاهزًا للمستقبل: الاستفادة من نماذج اللغات الكبيرة (LLMs) لتحقيق النجاح
يتطور عالم الذكاء الاصطناعي بسرعة، وتتصدر نماذج اللغات الكبيرة (LLMs) هذا التغيير. ولكن مع كل هذا الابتكار، قد يكون من الصعب معرفة من أين تبدأ وكيف تعد عملك للمستقبل.
نماذج اللغة الكبيرة (LLMs) لم تعد مفهومًا مستقبليًا. إنها موجودة، ومتاحة، وتقدم قيمة حقيقية عبر مختلف أقسام الأعمال. سواء كان الأمر يتعلق بتعزيز إنتاجية الموظفين في المبيعات والتسويق، أو إنشاء تجارب مخصصة للعملاء، فإن دمج نماذج اللغة الكبيرة في سير عملك يمكن أن يؤدي إلى مزايا تنافسية كبيرة.
ومع ذلك، فإن مجرد تطبيق حلول نماذج اللغة الكبيرة العامة لا يكفي. لإطلاق العنان لإمكاناتها الحقيقية، تحتاج إلى تخصيصها لتناسب عمليات عملك المحددة. يتضمن ذلك ضبط النماذج بدقة، ودمج الخبرة البشرية، واستخدام منصات MLOps الفعالة للتحسين المستمر. تذكر أن نماذج اللغة الكبيرة هي أدوات، وخبرتك في تطبيقها هي ما يميزك.
نصائح عملية للقراء:
- ابدأ صغيرًا وجرّب: لا تحاول أن تفعل كل شيء دفعة واحدة. اختر تحديًا تجاريًا محددًا حيث يمكن لنماذج اللغة الكبيرة أن توفر قيمة واضحة، وابدأ في تجربة نماذج وتطبيقات مختلفة.
- ركز على التخصيص: تذكر أن الحلول الجاهزة التي تناسب الجميع نادرًا ما تنجح. استثمر الوقت في فهم احتياجاتك الفريدة وتكييف حلول نماذج اللغة الكبيرة مع سياقك الخاص.
- ابنِ ثقافة التعلم المستمر: يتطور مشهد نماذج اللغة الكبيرة باستمرار. ابقَ على اطلاع، واستكشف التطورات الجديدة، وشجع فريقك على تبني التعلم مدى الحياة في هذا المجال الديناميكي.
اقرأ مدوناتنا السابقة في سلسلة True ML Talks:
استمر في مشاهدة TrueML سلسلة يوتيوب وقراءة TrueML سلسلة المدونات.
TrueFoundry هي منصة كخدمة (PaaS) لنشر تعلم الآلة (ML) فوق Kubernetes لتسريع سير عمل المطورين مع منحهم مرونة كاملة في اختبار ونشر النماذج، وضمان الأمان والتحكم الكامل لفريق البنية التحتية. من خلال منصتنا، نمكّن فرق تعلم الآلة من نشر ومراقبة النماذج في 15 دقيقة بموثوقية 100% وقابلية للتوسع والقدرة على التراجع في ثوانٍ - مما يسمح لهم بتوفير التكلفة وإطلاق النماذج إلى الإنتاج بشكل أسرع، وبالتالي تحقيق قيمة تجارية حقيقية.
TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.
The fastest way to build, govern and scale your AI


















.png)
.webp)










.webp)






