TrueML Talks #28 - GenAI und LLMs für Sales Outreach bei OneShot
Auf Geschwindigkeit ausgelegt: ~ 10 ms Latenz, auch unter Last
Unglaublich schnelle Methode zum Erstellen, Verfolgen und Bereitstellen Ihrer Modelle!
- Verarbeitet mehr als 350 RPS auf nur 1 vCPU — kein Tuning erforderlich
- Produktionsbereit mit vollem Unternehmenssupport
Wir sind zurück mit einer weiteren Episode von True ML Talks. In dieser tauchen wir erneut tief in GenAI und LLMs für den Sales Outreach bei OneShot ein und sprechen mit Peda Venki Pola
Venki ist Gründer und CTO bei OneShot, davor war er als Software Architect bei Salesforce tätig. OneShot unterstützt B2B-SaaS-Unternehmen dabei, den Top-of-Funnel für ihr Geschäft aufzubauen.
📌
Unser Gespräch mit Venki deckt folgende Aspekte ab:
- AI-Powered Sales Outreach
- Das einzigartige Preismodell von OneShot
- Der Tech Stack bei OneShot
- Wie OneShot LLMs mit Prompts verwaltet
- Full-Stack wird AI: Wie LLMs die Entwicklung neudefinieren
- Machen Sie Ihr Unternehmen zukunftssicher: LLMs für den Erfolg nutzen
Sehen Sie sich die vollständige Episode unten an:
AI-Powered Sales Outreach
Der AI-gestützte Sales Outreach von OneShot beginnt mit Ihrem Ideal Customer Profile (ICP). Das Team verlässt sich nicht einfach auf Annahmen, sondern analysiert Ihre bestehenden Kundendaten, um Muster zu erkennen und die perfekte Zielgruppe vorzuschlagen.
Sobald das ICP definiert ist, läuft die AI von OneShot zur Höchstform auflaufen. Das Unternehmen nutzt eigene Modelle und Open-Source-Tools wie den Hub von Hugging Face, um das Web zu durchsuchen und Daten aus LinkedIn-Profilen, Unternehmenswebsites und sogar Finanzberichten zu scrapen. Dieser Datenschatz wird anschließend von leistungsstarken LLMs wie GPT-4 und Claude zusammengefasst und analysiert. So entstehen Erkenntnisse über Unternehmen und Einzelpersonen, die herkömmliche Sales-Tools schlichtweg nicht liefern können.
Daten sind jedoch nur das Fundament. OneShot kombiniert das Verständnis Ihres Geschäfts mit den Erkenntnissen aus der Prospect-Recherche, um personalisierte Outreach-Nachrichten zu generieren, die überzeugen. Keine generischen Begrüßungen und unpersönlichen Pitches mehr – jede Nachricht ist auf die spezifischen Bedürfnisse und Interessen des Empfängers zugeschnitten.
OneShot beschränkt sich nicht auf E-Mails. Die Plattform kann den Outreach über mehrere Kanäle hinweg automatisieren, einschließlich LinkedIn-Nachrichten und sogar Skripten für Anrufe. So wird sichergestellt, dass Ihre Nachricht Ihre Prospects erreicht, egal wo sie sich aufhalten.
Die AI von OneShot lernt und entwickelt sich ständig weiter. Sie verfolgt die Performance der Outreach-Kampagnen und nutzt Reinforcement Learning, um die erfolgreichsten Ansätze zu identifizieren und die Strategien entsprechend anzupassen. Dies stellt sicher, dass Ihre Outreach-Maßnahmen stets auf maximalen Erfolg optimiert sind.
Zwei Seiten der Medaille
AI-gestützter Outreach hat zwei Dimensionen:
- Absender: Unternehmen, die AI zum Versenden von Nachrichten nutzen, haben oft Bedenken hinsichtlich Transparenz und Freigaben. OneShot bietet Optionen wie Co-Pilot- und Autopilot-Modi, sodass Benutzer die AI-generierten Inhalte vor dem Versenden überprüfen und personalisieren können.
- Empfänger: Während manche AI-generierte Nachrichten als unpersönlich empfinden, schätzen viele die fundierte Recherche und Personalisierung. Es ist ein Wandel von generischen Begrüßungen hin zu zielgerichteten Inhalten, die echtes Interesse wecken.
Die Bots menschlicher gestalten
Generische AI-Lösungen werden langfristig nicht funktionieren. Unternehmen müssen:
- Sprache anpassen: Passen Sie Tonfall und Stil der AI an Ihre Brand Voice und Zielgruppe an. Stellen Sie sich vor, Nachrichten für CTOs im Vergleich zu einzelnen Mitarbeitern maßzuschneidern.
- Unternehmensdaten nutzen: Trainieren Sie AI-Modelle mit Ihren spezifischen Daten, um Nachrichten zu generieren, die bei Ihren idealen Kunden Anklang finden.
Eine Zukunft der kollaborativen AI
AI ersetzt den Menschen nicht, sie ergänzt ihn. Stellen Sie sich vor:
- AI übernimmt die Vorarbeit: Recherche von Prospects, Erstellen erster Nachrichten und Automatisierung wiederkehrender Aufgaben.
- Menschen sorgen für die persönliche Note: Überprüfen und Verfeinern von AI-Ergebnissen, Beziehungsaufbau und Abschluss von Deals
Einzigartiges Preismodell @ OneShot
Menschen statt Verkäufe: Ein anderer Preisansatz
Im Gegensatz zu traditioneller Sales-Software rechnet OneShot nicht auf Basis abgeschlossener Deals ab. Sie konzentrieren sich auf das, was sie direkt steuern können: die Anzahl der erreichten Prospects. Warum dieser Ansatz?
- Fokus auf die Customer Journey: Die richtigen Menschen zu erreichen ist entscheidend für den Vertriebserfolg, selbst wenn nicht jede Interaktion direkt zu einem Deal führt.
- Transparenz und Fairness: Unternehmen zahlen nur für die tatsächlichen Outreach-Aufwände und nicht für unvorhersehbare Ergebnisse wie Abschlussquoten.
Mehr als nur Zahlen: Wert individuell anpassen
Es geht nicht nur um Quantität; OneShot berücksichtigt auch die Qualität des Outreach. Das Preismodell spiegelt wider:
- Recherche-Tiefe: Benötigen Sie Basisinformationen oder eine fundierte Analyse jedes Prospects?
- AI-Powered Nachrichten: Wie viele personalisierte Nachrichten senden Sie pro Prospect?
- Multi-Channel-Reichweite: E-Mail, LinkedIn, Anrufe – wählen Sie die Kanäle, die zu Ihrer Strategie passen.
Ein Modell für gemeinsamen Erfolg
Diese Preisstruktur kommt sowohl OneShot als auch seinen Kunden zugute:
- OneShot: Es besteht der Anreiz, qualitativ hochwertige Leads und starkes Engagement zu liefern.
- Kunden: Sie zahlen nur für den Outreach, den sie tatsächlich benötigen, und sehen den Wert in jeder potenziellen Verbindung.
Tech Stack @ OneShot
Von Langchain zur eigenen Entwicklung
OneShot startete mit Langchain, einem beliebten AI/ML-Toolkit. Obwohl es ein solides Fundament bot, fehlte die nötige Flexibilität für die spezifischen Anforderungen von OneShot. Daher wechseln sie zurück zu einer maßgeschneiderten Lösung, die es ihnen ermöglicht, Komponenten wie ein eigenes „Gateway“ zur Anbindung mehrerer AI-Modelle zu bauen.
Die Suche nach den perfekten Embeddings
OneShot durchsucht eine riesige Datenbank von 40 Millionen Unternehmen, um das perfekte Match für jedes Business zu finden. Um dies zu erreichen, nutzen sie verschiedene Tools:
- GPT Embeddings: Erfassen die Bedeutung von Texten und helfen, relevante Unternehmen basierend auf Keywörtern und Beschreibungen zu finden.
- Pinecone & andere Vektordatenbanken: Speichern die Embeddings effizient und ermöglichen schnelle Suchabfragen.
- ChatGPT-Modelle: Analysieren die Anfrage des Benutzers und identifizieren die relevantesten Knowledge-Artikel.
- LLMs dynamisch wechseln: Je nach Aufgabe kann OneShot unterschiedliche Modelle wie GPT-4 oder Claude einsetzen.
Vorteile von Open Source nutzen
OneShot baut nicht alles allein. Sie nutzen Open-Source-Tools wie Ihre für das Fine-Tuning von Modellen und Hosting-Lösungen, was Effizienz und Zugang zu neuesten Entwicklungen garantiert.
Herausforderungen und Lessons Learned
Der Aufbau einer AI-Plattform verläuft nicht ohne Hürden. OneShot steht vor Herausforderungen wie:
- Balance zwischen Flexibilität und Benutzerfreundlichkeit: Sowohl technisch versierte als auch nicht-technische Nutzer zu bedienen, erfordert durchdachte Design-Entscheidungen.
- Schritt halten mit der dynamischen LLM-Landschaft: Neue Modelle und Tools entstehen ständig, was kontinuierliche Anpassung und Erprobung erfordert.
- Überwachung und Wartung der AI-Engine: Die Sicherstellung von reibungsloser Performance und Zuverlässigkeit ist entscheidend für das Vertrauen der Nutzer.
Die Zukunft von OneShot:
OneShot verlässt sich derzeit auf seine API zur Anbindung an AI-Modelle, erkundet jedoch neue Horizonte. Mit zunehmender Skalierung ziehen sie die Integration mit Plattformen wie Azure OpenAI in Betracht, um auf eine breitere Palette von Modellen zuzugreifen.
OneShot innoviert jedoch kontinuierlich weiter. Sie untersuchen Möglichkeiten wie:
- Bring Your Own LLM: Nutzern die Wahl ihrer bevorzugten Modelle zu ermöglichen, für noch mehr Anpassungsmöglichkeiten.
- MLOps-Integration: Nutzung von Plattformen für robustes Monitoring und Management ihrer AI-Infrastruktur.
Durch Flexibilität, das Anpacken von Herausforderungen und den Blick nach vorn baut OneShot eine leistungsstarke und zugängliche AI-Plattform auf, die Unternehmen zum Erfolg verhilft.
Wie OneShot LLMs mit Prompts verwaltet
Stellen Sie sich Prompts wie Anweisungen oder Fragen vor, die dem LLM helfen zu verstehen, welche Informationen Sie suchen.
OneShot nutzt keinen Standardansatz für alles. Sie stellen unterschiedliche Prompts für verschiedene Anwendungsfälle bereit:
- Lead-Qualifizierung: Ist dies die richtige Person zur Kontaktaufnahme? Prompts helfen der AI, Daten zu analysieren und eine klare Ja- oder Nein-Antwort zu liefern.
- Informationsextraktion: Zusammenfassung wichtiger Punkte über das Geschäft eines Prospects. Prompts leiten die AI an, relevante Informationen zu finden und prägnant darzustellen.
- Erstellung von Sales-Content: Erstellung personalisierter E-Mails, LinkedIn-Nachrichten und Anruftexte. Prompts helfen der AI, den Inhalt auf Ihren spezifischen Prospect und den gewünschten Tonfall zuzuschneiden.
OneShot gibt seinen Nutzern die Kontrolle über die Prompts. Sie können das Modell zur Ausführung der Prompts wählen und Einstellungen wie „kreativ“ oder „deterministisch“ anpassen, um die Ergebnisse feinabzustimmen.
Full-Stack wird AI: Wie LLMs die Entwicklung neudefinieren
Erinnern Sie sich an die Zeiten, als „Full-Stack-Entwickler“ bedeutete, Front-End und Back-End zu jonglieren? Das verändert sich nun, denn AI wird Teil dieser Gleichung! LLMs verändern die Entwicklungslandschaft grundlegend:
1. AI ist das neue „Full-Stack“: Es geht nicht mehr nur um Code. Entwickler müssen heute AI-Funktionen, Embeddings und MLOps-Plattformen verstehen. Die gesamte Pipeline ist mit AI durchdrungen!
2. AI wird zur Handelsware (commoditized): Das Bauen und Nutzen von AI-Modellen ist dank benutzerfreundlicher Plattformen einfacher denn je. Entwickler können sich nun auf Fine-Tuning und Anpassung konzentrieren.
3. Chatbots sind die neuen Co-Piloten: Die Zeiten endloser Google-Suchen sind vorbei. Ingenieure können jetzt AI-Assistenten wie ChatGPT nutzen, um besseren Code zu schreiben und ihre Produktivität zu steigern.
Machen Sie Ihr Unternehmen zukunftssicher: LLMs für den Erfolg nutzen
Die Welt der AI entwickelt sich rasant weiter, und Large Language Models (LLMs) stehen an der Spitze dieses Wandels. Bei so vielen Innovationen kann es jedoch schwer sein zu wissen, wo man anfangen soll und wie man sein Unternehmen auf die Zukunft vorbereitet.
LLMs sind kein futuristisches Konzept mehr. Sie sind da, sie sind zugänglich und bieten in verschiedenen Unternehmensbereichen echten Mehrwert. Ob zur Steigerung der Mitarbeiterproduktivität im Vertrieb und Marketing oder zur Erstellung personalisierter Erlebnisse für Kunden – die Integration von LLMs in Ihren Workflow kann zu erheblichen Wettbewerbsvorteilen führen.
Es reicht jedoch nicht aus, einfach generische LLM-Lösungen zu implementieren. Um ihr volles Potenzial auszuschöpfen, müssen Sie diese an Ihre spezifischen Geschäftsprozesse anpassen. Dies umfasst das Fine-Tuning von Modellen, die Einbindung menschlicher Expertise und die Nutzung effizienter MLOps-Plattformen für kontinuierliche Verbesserungen. Denken Sie daran: LLMs sind Werkzeuge, und Ihre Fachkompetenz bei deren Anwendung macht den Unterschied.
Praktischer Rat für Leser:
- Klein anfangen und experimentieren: Versuchen Sie nicht, direkt alles auf einmal zu lösen. Wählen Sie eine spezifische geschäftliche Herausforderung, bei der LLMs einen klaren Mehrwert bieten können, und beginnen Sie mit verschiedenen Modellen und Anwendungen zu experimentieren.
- Fokus auf Anpassung: Denken Sie daran, dass Standardlösungen selten funktionieren. Investieren Sie Zeit, um Ihre individuellen Anforderungen zu verstehen und LLM-Lösungen auf Ihren spezifischen Kontext zuzuschneiden.
- Eine Kultur des kontinuierlichen Lernens aufbauen: Die LLM-Landschaft entwickelt sich ständig weiter. Bleiben Sie informiert, erkunden Sie neue Entwicklungen und ermutigen Sie Ihr Team zu lebenslangem Lernen in diesem dynamischen Feld.
Lesen Sie unsere vorherigen Blogs aus der Reihe True ML Talks:
Schauen Sie weiterhin die TrueML YouTube-Serie und lesen Sie die TrueML Blog-Serie.
TrueFoundry ist eine ML-Deployment-PaaS auf Kubernetes, die Entwickler-Workflows beschleunigt und gleichzeitig volle Flexibilität beim Testen und Deployen von Modellen bietet – bei vollständiger Sicherheit und Kontrolle für das Infra-Team. Über unsere Plattform ermöglichen wir Machine-Learning-Teams, Modelle in 15 Minuten mit 100 % Zuverlässigkeit, Skalierbarkeit und der Möglichkeit zum Rollback in Sekunden zu deployen und zu überwachen. Dies spart Kosten, beschleunigt Releases in die Produktion und schafft realen geschäftlichen Mehrwert.
TrueFoundry AI Gateway bietet eine Latenz von ~3—4 ms, verarbeitet mehr als 350 RPS auf einer vCPU, skaliert problemlos horizontal und ist produktionsbereit, während LiteLM unter einer hohen Latenz leidet, mit moderaten RPS zu kämpfen hat, keine integrierte Skalierung hat und sich am besten für leichte Workloads oder Prototyp-Workloads eignet.
















%20(28).webp)



.webp)
.webp)
.png)

.png)
.png)
.png)
.png)
.png)
.webp)
.webp)






