TrueML Talks #28 - GenAI und LLMs für die Vertriebsarbeit @ OneShot
Auf Geschwindigkeit ausgelegt: ~ 10 ms Latenz, auch unter Last
Unglaublich schnelle Methode zum Erstellen, Verfolgen und Bereitstellen Ihrer Modelle!
- Verarbeitet mehr als 350 RPS auf nur 1 vCPU — kein Tuning erforderlich
- Produktionsbereit mit vollem Unternehmenssupport
Wir sind zurück mit einer weiteren Folge von True ML Talks. In dieser Ausgabe tauchen wir erneut tief in GENai und LLMs for Sales Outreach bei OneShot ein und sprechen mit Peda Venki Pola
Venki ist Gründer und CTO von Ein Schuss und davor arbeitete er bei Salesforce als Softwarearchitekt. OneShot hilft B2B-SaaS-Unternehmen dabei, das Beste aus dem Funnel für ihr Unternehmen herauszuholen.
📌
Unsere Gespräche mit Venki werden die folgenden Aspekte behandeln:
- KI-gestützte Vertriebsarbeit
- Einzigartiges Preismodell bei OneShot
- Tech Stack bei OneShot
- Wie OneShot LLMs mit Eingabeaufforderungen verwaltet
- Full-Stack Goes AI: Wie LLMs die Entwicklung neu definieren
- Machen Sie Ihr Unternehmen zukunftssicher: Nutzen Sie LLMs für den Erfolg
Sehen Sie sich die ganze Folge unten an:
KI-gestützte Vertriebsarbeit
Die KI-gestützte Vertriebsarbeit von OneShot beginnt mit Ihrem idealen Kundenprofil (ICP). Sie nehmen nicht nur Ihr Wort dafür, sie analysieren Ihre vorhandenen Kundendaten, um Muster zu identifizieren und die perfekte Zielgruppe vorzuschlagen.
Sobald der ICP definiert ist, geht die KI von OneShot auf Hochtouren. Sie nutzen ihre Modelle und Open-Source-Tools wie Hugging Face's Hub, um das Internet zu durchsuchen und Daten aus LinkedIn-Profilen, Unternehmenswebsites und sogar Finanzberichten zu entfernen. Dieser Informationsschatz wird dann von leistungsstarken LLMs wie GPT-4 und Claude zusammengefasst und analysiert. Dadurch werden Erkenntnisse über Unternehmen und Einzelpersonen gewonnen, mit denen herkömmliche Vertriebstools einfach nicht mithalten können.
Daten sind jedoch nur die Grundlage. OneShot nutzt sein Verständnis Ihres Unternehmens und die Erkenntnisse aus der Interessentenforschung, um personalisierte Werbebotschaften zu erstellen, die Anklang finden. Keine generischen Grüße und unpersönlichen Ansprachen mehr — jede Nachricht ist auf die spezifischen Bedürfnisse und Interessen des Empfängers zugeschnitten.
OneShot hört nicht bei E-Mails auf. Sie können die Kontaktaufnahme über mehrere Kanäle automatisieren, einschließlich LinkedIn-Nachrichten und sogar Anrufskripten, um sicherzustellen, dass Ihre Nachricht Ihre Interessenten erreicht, wo immer sie sich befinden.
Die KI von OneShot lernt und entwickelt sich ständig weiter. Sie verfolgen die Leistung ihrer Outreach-Kampagnen und verwenden Reinforcement Learning, um herauszufinden, was am besten funktioniert, und passen ihre Strategien entsprechend an. Dadurch wird sichergestellt, dass Ihre Outreach-Bemühungen stets optimiert werden, um eine maximale Wirkung zu erzielen.
Zwei Seiten der Medaille
KI-gestützte Öffentlichkeitsarbeit hat zwei Dimensionen:
- Absender: Unternehmen, die KI zum Versenden von Nachrichten verwenden, sehen sich mit Bedenken hinsichtlich Transparenz und Genehmigung konfrontiert. OneShot bietet Optionen wie den Copilot- und den Autopilot-Modus, sodass Benutzer KI-generierte Inhalte vor dem Senden überprüfen und personalisieren können.
- Empfänger: Während einige KI-generierte Nachrichten für unpersönlich halten, schätzen viele die Recherche und Personalisierung, die sie anbieten. Es ist eine Verlagerung von generischen Begrüßungen hin zu zielgerichteten Inhalten, die echtes Interesse wecken.
Humanisierung der Bots
Generische KI-Lösungen werden langfristig nicht funktionieren. Unternehmen müssen:
- Sprache anpassen: Passen Sie den Ton und den Stil der KI an Ihre Markenstimme und Ihr Publikum an. Stellen Sie sich vor, Sie passen Botschaften an CTOs und nicht an einzelne Mitwirkende an.
- Geschäftsdaten nutzen: Trainieren Sie KI-Modelle anhand Ihrer spezifischen Daten, um Botschaften zu generieren, die bei Ihren idealen Kunden Anklang finden.
Eine Zukunft der kollaborativen KI
KI ersetzt Menschen nicht, sie erweitert sie. Stell dir vor:
- KI erledigt die Beinarbeit: Recherchieren Sie potenzielle Kunden, verfassen Sie erste Nachrichten und automatisieren Sie sich wiederholende Aufgaben.
- Menschen, die die persönliche Note hinzufügen: Überprüfung und Verfeinerung der KI-Ergebnisse, Aufbau von Beziehungen und Abschluss von Geschäften
Einzigartiges Preismodell @ OneShot
Menschen statt Vertrieb: Ein anderer Ansatz zur Preisgestaltung
Im Gegensatz zu herkömmlicher Verkaufssoftware berechnet OneShot keine Gebühren auf der Grundlage abgeschlossener Geschäfte. Sie konzentrieren sich auf das, was sie direkt kontrollieren können: die Anzahl der Interessenten, die Sie erreichen. Warum dieser Ansatz?
- Konzentrieren Sie sich auf die Reise: Die richtigen Leute zu erreichen ist entscheidend für den Verkaufserfolg, auch wenn nicht jede Interaktion zu einem Geschäft führt.
- Transparenz und Fairness: Unternehmen zahlen nur für Öffentlichkeitsarbeit, nicht für unvorhersehbare Ergebnisse wie Schlusskurse.
Mehr als nur Zahlen: Maßgeschneiderte Werte
Es geht nicht nur um Quantität; OneShot berücksichtigt auch die Qualität der Öffentlichkeitsarbeit. Ihre Preisgestaltung spiegelt Folgendes wider:
- Forschungstiefe: Benötigen Sie grundlegende Informationen oder eine eingehende Analyse der einzelnen Interessenten?
- KI-gestützte Nachrichten: Wie viele personalisierte Nachrichten werden Sie pro potenzielem Kunden senden?
- Mehrkanal-Reichweite: E-Mail, LinkedIn, Anrufe — wählen Sie die Kanäle, die zu Ihrer Strategie passen.
Ein Modell für gemeinsamen Erfolg
Diese Preisstruktur kommt sowohl OneShot als auch seinen Kunden zugute:
- Ein Schuss: Sie erhalten Anreize, qualitativ hochwertige Leads und Engagement zu generieren.
- Kunden: Sie zahlen nur für die Reichweite, die sie benötigen, und sehen den Wert jeder potenziellen Verbindung.
Technischer Stack bei OneShot
Von Langchain bis Building Your Own
OneShot begann mit Langchain, einem beliebten KI/ML-Toolkit. Es bot zwar eine gute Grundlage, es fehlte jedoch an der Flexibilität, die für die spezifischen Bedürfnisse von OneShot erforderlich war. Sie wechseln also zurück zu einer maßgeschneiderten Lösung, die es ihnen ermöglicht, Dinge wie ein „Gateway“ für die Verbindung zu mehreren KI-Modellen zu erstellen.
Die Suche nach perfekten Einbettungen
OneShot durchsucht eine riesige Datenbank mit 40 Millionen Unternehmen, um für jedes Unternehmen die perfekte Lösung zu finden. Um dies zu erreichen, verwenden sie verschiedene Tools:
- GPT-Einbettungen: Diese erfassen die Bedeutung von Text und helfen dabei, relevante Unternehmen anhand von Schlüsselwörtern und Beschreibungen zu finden.
- Pinecone und andere Vektor-Datenbanken: Diese speichern die Einbettungen effizient und ermöglichen eine schnelle Suche.
- ChatGPT-Modelle: Diese analysieren die Anfrage des Benutzers und identifizieren die relevantesten Wissensartikel.
- LLMs im Handumdrehen wechseln: Je nach Aufgabe kann OneShot verschiedene Modelle wie GPT-4 oder Claude verwenden.
Nutzung von Open Source
OneShot macht es nicht alleine. Sie nutzen Open-Source-Tools wie Ihre für die Feinabstimmung von Modellen und Hosting-Lösungen und sorgen so für Effizienz und Zugriff auf die neuesten Entwicklungen.
Herausforderungen und gewonnene Erkenntnisse
Der Aufbau einer KI-Plattform ist nicht ohne Hürden. OneShot steht vor Herausforderungen wie:
- Balance zwischen Flexibilität und Benutzerfreundlichkeit: Um sowohl technisch versierten als auch technisch nicht versierten Benutzern gerecht zu werden, sind sorgfältige Designentscheidungen erforderlich.
- Mit der sich entwickelnden LLM-Landschaft Schritt halten: Es entstehen ständig neue Modelle und Werkzeuge, die angepasst und erforscht werden müssen.
- Überwachung und Wartung der KI-Engine: Die Gewährleistung einer reibungslosen Leistung und Zuverlässigkeit ist entscheidend für das Vertrauen der Benutzer.
Die Zukunft von OneShot:
OneShot verlässt sich derzeit auf seine API, um eine Verbindung zu KI-Modellen herzustellen, aber sie erkunden neue Horizonte. Im Zuge der Skalierung erwägen sie die Integration mit Plattformen wie Azure OpenAI, um auf eine breitere Palette von Modellen zuzugreifen.
OneShot arbeitet jedoch ständig an Innovationen. Sie erkunden Möglichkeiten wie:
- Bringen Sie Ihren eigenen LLM mit: So können Benutzer ihre bevorzugten Modelle für noch mehr Anpassungen auswählen.
- MLOps-Integration: Nutzung von Plattformen für eine robuste Überwachung und Verwaltung ihrer KI-Infrastruktur.
OneShot setzt auf Flexibilität, bewältigt Herausforderungen und ist seiner Zeit immer einen Schritt voraus. Deshalb baut OneShot eine leistungsstarke und zugängliche KI-Plattform auf, die Unternehmen zum Erfolg verhilft.
Wie OneShot LLMs mit Eingabeaufforderungen verwaltet
Stellen Sie sich Aufforderungen als Anweisungen oder Fragen vor, die dem LLM helfen, zu verstehen, nach welchen Informationen Sie suchen.
OneShot verwendet keinen einheitlichen Ansatz. Sie bieten unterschiedliche Eingabeaufforderungen für verschiedene Verwendungszwecke:
- Hauptqualifikation: Ist das die richtige Kontaktperson? Mithilfe von Eingabeaufforderungen kann die KI Daten analysieren und Ihnen eine klare Ja- oder Nein-Antwort geben.
- Extraktion von Informationen: Fassen Sie die wichtigsten Punkte zum Geschäft eines Interessenten zusammen. Mithilfe von Aufforderungen findet die KI relevante Informationen und präsentiert sie übersichtlich.
- Erstellung von Vertriebsinhalten: Erstellen Sie personalisierte E-Mails, LinkedIn-Nachrichten und Anrufskripte. Mithilfe von Aufforderungen kann die KI den Inhalt an Ihren spezifischen Interessenten und den gewünschten Ton anpassen.
OneShot unterstützt seine Benutzer, indem es ihnen die Kontrolle über die Eingabeaufforderungen gibt. Sie können das Modell auswählen, auf dem die Eingabeaufforderungen ausgeführt werden sollen, und Einstellungen wie „kreativ“ oder „deterministisch“ anpassen, um die Ergebnisse zu verfeinern.
Full-Stack Goes AI: Wie LLMs die Entwicklung neu definieren
Erinnern Sie sich an die Zeit, als „Full-Stack-Entwickler“ bedeutete, Frontend und Backend unter einen Hut zu bringen? Nun, geh rüber, denn KI ist jetzt Teil der Gleichung! LLMs verändern die Entwicklungslandschaft komplett:
1. KI ist der neue „Full-Stack“: Es geht nicht mehr nur um Code. Entwickler müssen jetzt KI-Funktionen, Einbettungen und MLOps-Plattformen. Die gesamte Pipeline ist mit KI ausgestattet!
2. KI ist standardisiert: Das Erstellen und Verwenden von KI-Modellen ist dank benutzerfreundlicher Plattformen einfacher als je zuvor. Entwickler können sich jetzt auf die Feinabstimmung und Anpassung konzentrieren.
3. Chatbots sind die neuen Co-Piloten: Vorbei sind die Zeiten endloser Google-Suchanfragen. Ingenieure können jetzt KI-Assistenten wie ChatGPT nutzen, um besseren Code zu schreiben und ihre Produktivität zu steigern.
Machen Sie Ihr Unternehmen zukunftssicher: Mit LLMs zum Erfolg
Die Welt der KI entwickelt sich rasant, und große Sprachmodelle (LLMs) stehen bei diesem Wandel an vorderster Front. Bei so vielen Innovationen kann es jedoch schwierig sein, zu wissen, wo Sie anfangen sollen und wie Sie Ihr Unternehmen auf die Zukunft vorbereiten können.
LLMs sind kein futuristisches Konzept mehr. Sie sind da, sie sind zugänglich und sie bieten in verschiedenen Geschäftsabteilungen einen echten Mehrwert. Ganz gleich, ob es darum geht, die Produktivität der Mitarbeiter in Vertrieb und Marketing zu steigern oder personalisierte Kundenerlebnisse zu schaffen — die Integration von LLMs in Ihren Arbeitsablauf kann zu erheblichen Wettbewerbsvorteilen führen.
Implementieren Sie jedoch einfach generische LLM-Lösungen. Um ihr Potenzial wirklich auszuschöpfen, müssen Sie anpassen sie zu Ihren spezifischen Geschäftsprozessen. Dies beinhaltet die Feinabstimmung von Modellen, die Einbeziehung menschlichen Fachwissens und die Nutzung effizienter MLOps-Plattformen zur kontinuierlichen Verbesserung. Denken Sie daran, dass LLMs Tools sind und Ihre Expertise in deren Anwendung Sie sich von anderen abheben.
Praktische Ratschläge für Leser:
- Fangen Sie klein an und experimentieren Sie: Versuchen Sie nicht, das Meer zum Kochen zu bringen. Wählen Sie eine bestimmte geschäftliche Herausforderung aus, bei der LLMs einen klaren Mehrwert bieten können, und beginnen Sie, mit verschiedenen Modellen und Anwendungen zu experimentieren.
- Konzentrieren Sie sich auf die Anpassung: Denken Sie daran, dass Einheitslösungen selten funktionieren. Investieren Sie Zeit, um Ihre individuellen Bedürfnisse zu verstehen und LLM-Lösungen auf Ihren spezifischen Kontext zuzuschneiden.
- Schaffen Sie eine Kultur des kontinuierlichen Lernens: Die LLM-Landschaft entwickelt sich ständig weiter. Bleiben Sie auf dem Laufenden, erkunden Sie neue Entwicklungen und ermutigen Sie Ihr Team, lebenslanges Lernen in diesem dynamischen Bereich zu fördern.
Lesen Sie unsere vorherigen Blogs in der True ML Talks-Reihe:
Schaue weiter TrueML YouTube-Serie und das TrueML lesen Blog-Serie.
Wahre Gießerei ist ein ML Deployment PaaS über Kubernetes, um die Workflows von Entwicklern zu beschleunigen und ihnen gleichzeitig volle Flexibilität beim Testen und Bereitstellen von Modellen zu bieten und gleichzeitig die volle Sicherheit und Kontrolle für das Infra-Team zu gewährleisten. Über unsere Plattform ermöglichen wir Teams für maschinelles Lernen bereitstellen und überwachen Modelle innerhalb von 15 Minuten mit 100% iger Zuverlässigkeit, Skalierbarkeit und der Möglichkeit, innerhalb von Sekunden rückgängig zu machen. So können sie Kosten sparen und Modelle schneller für die Produktion freigeben, wodurch ein echter Geschäftswert erzielt wird.
TrueFoundry AI Gateway bietet eine Latenz von ~3—4 ms, verarbeitet mehr als 350 RPS auf einer vCPU, skaliert problemlos horizontal und ist produktionsbereit, während LiteLM unter einer hohen Latenz leidet, mit moderaten RPS zu kämpfen hat, keine integrierte Skalierung hat und sich am besten für leichte Workloads oder Prototyp-Workloads eignet.
Der schnellste Weg, deine KI zu entwickeln, zu steuern und zu skalieren













.png)




.png)






.webp)

.webp)



