Online medicijnmarktplaats voegt $ 1,5 miljoen toe aan omzet door het vereenvoudigen van de klantreis

"Het afhaakpercentage van klanten tussen het uploaden van het recept en de orderbevestiging was erg hoog."

— Business Head, Receptgeneesmiddelen

‍

Bij de oudere bestelmethode moesten klanten uren wachten voordat hun bestellingen konden worden verwerkt. Dit resulteerde in veel klanten die afhaakten tussen het uploaden van het recept en het plaatsen van de bestelling (80-90% van de klanten). Het bedrijf stelde vast dat het automatiseren van de volgende processen zou kunnen leiden tot een snellere doorlooptijd en een verbeterde conversieratio:

1. Detectie of de door de klant geüploade afbeelding leesbaar is
2. Het uitlezen van de namen en doseringen van medicijnen van het recept en deze in het winkelmandje van de klant plaatsen

Het afdelingshoofd benaderde het machine learning-team om een machine learning-pipeline te bouwen die deze problemen kon oplossen. Ze wilden snel een oplossing omdat dit direct invloed had op hun omzet.

"We besteedden veel tijd aan zaken die niet tot onze expertise behoorden."

— Lead Data Scientist

Het machine learning-team liep vertraging op bij de oplevering van het project. Het team was veel tijd kwijt aan overleg met het DevOps-team voor het opzetten van de infrastructuur voor nieuwe experimenten, het maken van demo's, het implementeren van model-API's, enzovoort. Ze stonden voor de uitdaging om geavanceerde modellen te maken, zoals OCR (Optical Character Recognition) en wazigheidsdetectie voor receptgegevens. Deze gegevens waren ruisgevoelig, maar vereisten een nauwkeurig model, wat leidde tot talloze experimenten en iteraties met de modernste modelarchitecturen.

Het machine learning-team had hulp nodig om zich te concentreren op het oplossen van het complexe machine learning-vraagstuk, omdat ze te druk waren met het productieklaar maken van het model. Dit betekende een langdurige vertraging in het realiseren van de zakelijke impact.

Het bedrijf zocht een MLOps-tool die het machine learning-team kon gebruiken om de machine learning-pipeline op te zetten zonder hulp van DevOps bij het bouwen, testen, demonstreren, in productie nemen en monitoren van hun modellen.

‍

TrueFoundry hielp de Machine Learning-pipeline met 5x te optimaliseren

TrueFoundry stelde het Data Science-team in staat om onafhankelijk te worden wat betreft hun MLOps-behoeften. Het team kon zelfstandig werken aan zaken waarvoor voorheen constant overleg met het DevOps-team nodig was.

"TrueFoundry fungeerde als partner voor het Data Science-team en ging vaak verder dan hun eigen scope om het succes van ons team te garanderen."

— Senior Data Scientist

‍

Het Machine Learning-team gebruikt TrueFoundry voor het volgende:

10x snellere prototyping door experimenten parallel uit te voeren

In de ontwikkelingsfase gebruikte het team het TrueFoundry-platform om

• Experimenten te versnellen door 10+ modellen/hyperparameters parallel uit te voeren met TrueFoundry-jobs, waardoor de experimenteertijd met meer dan 90% werd verkort
• Hun experimenten bij te houden en metadata te loggen om experimenten te kunnen reproduceren.

Modelimplementatietijd verkort van 3 dagen naar 1 uur

Het team kon met het platform zelfstandig binnen een uur productiemodellen implementeren:

• Ze implementeerden REST API-endpoints van hun modellen bij verschillende cloudproviders (AWS en GCP) met een uniforme workflow via de UI of met de Python SDK.
• Het team kon uitrolstrategieën, resourcelimieten, autoscaling, enzovoort, voor de modellen configureren.
• Zodra de modellen naar tevredenheid presteerden, konden ze deze met één klik in de UI naar de staging-omgeving promoveren.

Snellere feedback door demo's te maken

Het team had regelmatig feedback nodig van productmanagers en business heads, dus gebruikten ze het platform om:

• Snel demo's met eenvoudige UI's op te zetten om de modelprestaties direct te valideren met apothekers/medisch experts.
• Een UI te maken voor data-annotatie en een 'golden dataset' te creëren voor modeltraining.

De waardecyclus sluiten met modelmonitoring en hertraining

Na het implementeren van het model gebruikte het machine learning-team het TrueFoundry-platform om een pipeline op te zetten voor het monitoren van de prestaties en om te garanderen dat het bedrijfswaarde oplevert door:

• Het instellen van dashboards en waarschuwingen voor modelprestaties, latentie, enz.
• Het opzetten van een geautomatiseerde pipeline voor hertraining, validatie en implementatie als er data-drift wordt gedetecteerd en er data beschikbaar is voor hertraining

Het detecteren van data- en beveiligingslekken

Gezien de gevoelige aard van de data en modelvoorspellingen, gebruikte het machine learning-team het TrueFoundry-platform om:

• Een audit trail op te zetten van de data die in de modellen en hun inferenties wordt gebruikt.
• Data- en geheugenlekken te detecteren, API-authenticatie in te stellen, enz.

Multi-cloud ML-implementatie

Het team had workloads draaien in AWS en GCP en moest enkele modellen van de ene cloud naar de andere verplaatsen. Ze gebruikten het multi-cloud control plane van TrueFoundry om:

1. Toegang en beveiliging over verschillende clouds heen te beheren.
2. Modellen en inferentie-pipelines met één klik van de ene cloud naar de andere te klonen

"Het kostte ons slechts 6 dagen in plaats van de verwachte 4 maanden om onze ML-pipelines van AWS naar GCP te migreren met TrueFoundry, wat fantastisch was. We zijn een vroege partner van TrueFoundry en hebben het product aanzienlijk zien verbeteren."

— DevOps Lead

Impact maken op de gebruikerservaring met Machine Learning

Door gebruik te maken van de ML-modellen die op het TrueFoundry-platform zijn geïmplementeerd, kon het team een veel soepelere klantervaring bieden. Ze automatiseerden handmatige processen, waardoor het apothekersteam tijd vrijkreeg. Het project verkortte de tijd van recept tot afrekenen voor klanten van 2 uur naar 5 minuten.

‍

Deze wijzigingen verbeterden het conversiepercentage van klanten die hun recepten uploaden met ongeveer 1 procentpunt, wat in het eerste jaar een omzetimpact van $ 1,5 miljoen voor het bedrijf zou betekenen, en in de toekomst mogelijk nog meer.

Getuigenis van het hoofd Engineering