Kommendes Webinar: Unternehmenssicherheit für Claude Code | 21. April · 11 Uhr PST. Registriere dich hier →

„Die Rückgangsrate der Kunden zwischen dem Upload des Rezepts und der Auftragsbestätigung war sehr hoch.“

— Geschäftsleiter, Verschreibungspflichtige Medikamente

Die alte Methode, verschreibungspflichtige Medikamente zu bestellen: Kunden brechen wegen Verspätung ab

Bei der älteren Bestellmethode mussten die Kunden stundenlang warten, bis ihre Bestellungen bearbeitet werden konnten. Dies führte dazu, dass viele Kunden zwischen dem Hochladen des Rezepts und der Bestellung abbrachen (80-90% der Kunden). Das Unternehmen stellte fest, dass die Automatisierung der folgenden Prozesse zu einer schnelleren Bearbeitungszeit und einer verbesserten Konversionsrate der Kunden führen könnte:

  1. Erkennung, ob das von den Kunden hochgeladene Bild lesbar ist
  2. Namen und Dosierung von Medikamenten aus dem Rezept lesen und in den Warenkorb des Kunden legen

Der Geschäftsleiter wandte sich an das Team für maschinelles Lernen, um eine Pipeline für maschinelles Lernen aufzubauen, die diese Probleme lösen könnte. Sie wollten schnell eine Lösung finden, da sich diese direkt auf ihren Umsatz auswirkte.

„Wir haben viel Zeit damit verbracht, Dinge zu tun, die nicht unser Fachwissen waren.“

— Leitender Datenwissenschaftler

Das Team für maschinelles Lernen verzögerte sich bei der Projektabwicklung. Das Team hat viel Hin und Her mit dem DevOps-Team gemacht, um die Infrastruktur für neue Experimente einzurichten, Demos zu erstellen, Modell-APIs bereitzustellen usw. Sie standen vor der Herausforderung, ausgefeilte Modelle wie OCR (Optical Character Recognition) und Unschärfeerkennung auf Rezeptdaten zu entwickeln. Diese Daten waren verrauscht, erforderten jedoch, dass das Modell genau war, weshalb mehrere Experimente und Iterationen mit modernsten Modellarchitekturen erforderlich waren.

Das Team für maschinelles Lernen benötigte Hilfe, um sich auf die Lösung des komplexen maschinellen Lernproblems zu konzentrieren, da es damit beschäftigt war, die Modellproduktion vorzubereiten. Dies bedeutete eine längere Verzögerung bei der Realisierung der Auswirkungen auf das Geschäft.

Das Unternehmen wollte ein MLOps-Tool, mit dem das Machine-Learning-Team die Machine-Learning-Pipeline einrichten konnte, ohne DevOps-Hilfe beim Erstellen, Testen, Demonstrieren, Produzieren und Überwachen seiner Modelle zu benötigen.

TrueFoundry half dabei, die Machine Learning Pipeline um das Fünffache zu optimieren

TrueFoundry ermöglichte es dem Data-Science-Team, in Bezug auf seine MLOps-Anforderungen unabhängig zu werden. Das Team konnte unabhängig auf Dinge reagieren, die normalerweise ein Hin und Her mit dem DevOps-Team erforderten.

„TrueFoundry war als Partner für das Data Science-Team tätig und hat oft seinen Rahmen überschritten, um den Erfolg unseres Teams sicherzustellen.“

— Leitender Datenwissenschaftler

Das Machine Learning-Team verwendet TrueFoundry für Folgendes:

10-mal schnelleres Prototyping durch parallele Durchführung von Experimenten

In der Entwicklungsphase nutzte das Team die TrueFoundry-Plattform, um

  • Beschleunigen Sie das Experimentieren, indem Sie mehr als 10 Modelle/Hyperparameter parallel ausführen Jobs bei TrueFoundry, was die Experimentierzeit um > 90% reduziert
  • Behalten Sie den Überblick über ihr Experiment und protokollieren Sie Metadaten, um Experimente zu reproduzieren.

Reduzierung der Modellbereitstellungszeit von 3 Tagen auf 1 Stunde

Das Team konnte mit der Plattform innerhalb einer Stunde eigenständig Produktionsmodelle bereitstellen:

  • Sie haben REST-API-Endpunkte ihrer Modelle bei verschiedenen Cloud-Anbietern bereitgestellt (AWS und GCP) mit einem einheitlichen Arbeitsablauf über die Benutzeroberfläche oder mithilfe des Python-SDK.
  • Das Team könnte Rollout-Strategien, Ressourcenlimits, Autoscaling usw. für die Modelle konfigurieren.
  • Sobald die Modelle eine zufriedenstellende Leistung hatten, konnten sie die Modelle mit einem einzigen Klick auf die Benutzeroberfläche in die Staging-Umgebung hochstufen.

Schnelleres Feedback durch Erstellen von Demos

Das Team benötigte regelmäßig Feedback von den Produktmanagern und Geschäftsleitern, weshalb sie die Plattform nutzten, um:

  • Schnelles Hochfahren von Demos mit einfachen Benutzeroberflächen zur direkten Validierung der Modellleistung mit Apothekern/medizinischen Experten.
  • Erstellen Sie eine Benutzeroberfläche für Datenannotationen und erstellen Sie einen goldenen Datensatz für das Modelltraining.

Schließung der Werteschleife durch Modellüberwachung und Umschulung

Nach der Bereitstellung des Modells richtete das Team für maschinelles Lernen mithilfe der TrueFoundry-Plattform eine Pipeline ein, um die Leistung des Modells zu überwachen und sicherzustellen, dass es sich positiv auf das Geschäft auswirkt, indem es:

  • Einrichten Dashboards und Warnungen zur Modellleistung, Latenz usw.
  • Einrichtung einer automatisierten Umschulungs-, Validierungs- und Bereitstellungspipeline, wenn eine Datenabweichung festgestellt wird und Daten für eine erneute Schulung verfügbar sind

Erkennung von Daten- und Sicherheitslecks

Angesichts der sensiblen Natur der Daten und Modellvorhersagen nutzte das Machine-Learning-Team die TrueFoundry-Plattform für:

  • Richten Sie einen Prüfpfad der in den Modellen verwendeten Daten und ihrer Schlussfolgerungen ein.
  • Erkennen Sie Daten- und Speicherlecks, richten Sie die API-Authentifizierung ein usw.

Multi-Cloud-ML-Bereitstellung

Das Team hatte Workloads in AWS und GCP ausgeführt und musste einige Modelle von einer Cloud in eine andere verschieben. Sie nutzten die Multi-Cloud-Steuerungsebene von TrueFoundry, um:

  1. Verwalte Zugriff und Sicherheit in allen Clouds.
  2. Klonen Sie Modelle und Inferenz-Pipelines mit einem einzigen Klick von einer Cloud zur anderen
„Wir haben nur 6 Tage statt der erwarteten 4 Monate gebraucht, um unsere ML-Pipelines mit TrueFoundry von AWS zur GCP-Migration zu migrieren, was unglaublich war. Wir waren schon früh Partner von TrueFoundry und konnten feststellen, dass sich das Produkt erheblich verbessert hat.“

— DevOps-Leiter

Beeinflussung der Nutzererfahrung mit maschinellem Lernen

Mithilfe der auf der TrueFoundry-Plattform bereitgestellten ML-Modelle war das Team in der Lage, ein wesentlich reibungsloseres Kundenerlebnis zu bieten. Sie automatisierten die manuellen Prozesse und entlasteten so das Apotheker-Team. Das Projekt verkürzte die Zeit der Kunden von der Rezeptur bis zur Kasse von 2 Stunden auf 5 Minuten.

Neuer Prozess: Der Warenkorb wird innerhalb von 5 Minuten nach dem Hochladen des Rezepts aktualisiert

Durch diese Änderungen wurde die Konversionsrate der Kunden, die die Rezepte hochgeladen hatten, um ~1 Prozentpunkt verbessert, was sich im ersten Jahr auf den Umsatz des Unternehmens in Höhe von 1,5 Mio. $ auswirken würde und in Zukunft möglicherweise noch mehr.

Testimonial des technischen Leiters

"We are on a mission to provide accessible healthcare to all through technology, and ML/AI are critical levers to achieving our mission. When we selected TrueFoundry, we were impressed by their team and credentials and were convinced they would be the right partners for our young team starting our ML/Data Science journey.

Throughout our collaboration, we were pleasantly surprised to realize many gains through our partnership with TrueFoundry. They are genuinely committed to their client's success, and we were able to achieve many benefits such as an accelerated path to production, a tenfold acceleration of experimentation, maturing our ML/DS practice, reaching milestones within a few months that we expected to reach in 2024, and significant cost savings. TrueFoundry was there for us as our sounding board to help guide our team to success.

We highly recommend TrueFoundry to all organizations looking to create an impact and achieve success in the ML/DS arena. Without leveraging the TrueFoundry platform, we would not have been able to save time and costs while making a significant customer impact in such a short amount of time."

— Head of Engineering

Der schnellste Weg, deine KI zu entwickeln, zu steuern und zu skalieren

Betreiben Sie Ihre ML-Pipeline ab Tag 0

Rohrleitung