Online Drug Marketplace adds $1.5 million to its revenue by simplifying the customer journey

"A taxa de desistência dos clientes entre o upload da receita e a confirmação do pedido era muito alta."

— Business Head, medicamentos sob prescrição

‍

O método de pedido mais antigo exigia que os clientes esperassem horas até que seus pedidos pudessem ser processados. Isso fazia com que muitos clientes desistissem entre o upload da receita e o pedido (80-90% dos clientes). A empresa identificou que automatizar os seguintes processos poderia resultar em um tempo de resposta mais rápido e em uma melhor taxa de conversão de clientes:

1. Detecção de se a imagem enviada pelos clientes está legível
2. Leitura dos nomes e da dosagem dos medicamentos na receita e inclusão deles no carrinho do cliente

O business head procurou a equipe de machine learning para construir um pipeline de machine learning que pudesse resolver esses problemas. Eles queriam uma solução rápida, já que isso afetava diretamente suas receitas.

"Estávamos gastando muito tempo fazendo coisas que não eram nossa especialidade."

— Lead Data Scientist

A equipe de machine learning estava se atrasando na entrega do projeto. A equipe fazia muitas idas e vindas com a equipe de DevOps para configurar a infra para novos experimentos, criar demos, implantar APIs de modelos etc. Eles enfrentavam o desafio de criar modelos sofisticados como OCR (Optical Character Recognition) e detecção de desfoque em dados de receitas. Esses dados eram ruidosos, mas exigiam que o modelo fosse preciso e, portanto, demandavam vários experimentos e iterações com arquiteturas de modelo de última geração.

A equipe de machine learning precisava de ajuda para se concentrar na resolução do complexo problema de machine learning, porque estava ocupada tentando deixar o modelo pronto para produção. Isso significava um período prolongado de atraso na realização do impacto de negócio.

A empresa queria uma ferramenta de MLOps que a equipe de machine learning pudesse usar para configurar o pipeline de machine learning sem precisar da ajuda de DevOps para construir, testar, demonstrar, colocar em produção e monitorar seus modelos.

‍

A TrueFoundry ajudou a otimizar o pipeline de machine learning em 5X

A TrueFoundry permitiu que a equipe de data science se tornasse independente em relação aos seus requisitos de MLOps. A equipe podia agir de forma independente em coisas que normalmente exigiam idas e vindas com a equipe de DevOps.

"A TrueFoundry atuou como parceira da equipe de Data Science e muitas vezes foi além de seu escopo para garantir o sucesso da nossa equipe."

— Senior Data Scientist

‍

A equipe de machine learning usa a TrueFoundry para o seguinte:

Prototipagem 10X mais rápida ao executar experimentos em paralelo

Na fase de desenvolvimento, a equipe usou a plataforma TrueFoundry para

• Acelerar a experimentação executando mais de 10 modelos/hiperparâmetros em paralelo com os jobs da TrueFoundry, reduzindo o tempo de experimentação em mais de 90%
• Acompanhar seus experimentos e registrar metadados para reproduzir os experimentos.

Redução do tempo de deployment de modelos de 3 dias para 1 hora

Com a plataforma, a equipe podia, de forma independente, implantar modelos em produção em até uma hora:

• Eles implantaram endpoints de API REST de seus modelos em diferentes provedores de nuvem (AWS e GCP) com um fluxo de trabalho unificado pela UI ou usando o SDK Python.
• A equipe podia configurar estratégias de roll-out, limites de recursos, autoscaling etc. para os modelos.
• Quando os modelos apresentavam desempenho satisfatório, eles podiam promover os modelos para o ambiente de staging com um único clique na UI.

Feedback mais rápido com a criação de demos

A equipe precisava regularmente de feedback dos product managers e dos business heads, então usou a plataforma para:

• Subir rapidamente demos com UIs simples para validar o desempenho do modelo diretamente com farmacêuticos/especialistas médicos.
• Criar UI para anotação de dados e gerar um golden dataset para o treinamento do modelo.

Fechando o ciclo de valor com monitoramento e retreinamento de modelos

Após implantar o modelo, a equipe de machine learning usou a plataforma TrueFoundry para configurar um pipeline para monitorar seu desempenho e garantir que ele gere impacto de negócio ao:

• Configurar dashboards e alertas sobre desempenho do modelo, latência etc.
• Configurar um pipeline automatizado de retreinamento, validação e deployment caso seja detectado data drift e haja dados disponíveis para retreinamento

Detecção de vazamentos de dados e de segurança

Dada a natureza sensível dos dados e das previsões do modelo, a equipe de machine learning usou a plataforma TrueFoundry para:

• Configurar uma trilha de auditoria dos dados usados nos modelos e em suas inferências.
• Detectar vazamentos de dados e de memória, configurar a autenticação de API etc.

Deployment de ML multicloud

A equipe tinha cargas de trabalho rodando em AWS e GCP e precisava mover alguns modelos de uma nuvem para outra. Eles usaram o control plane multicloud da TrueFoundry para:

1. Gerenciar acesso e segurança entre nuvens.
2. Clonar modelos e pipelines de inferência de uma nuvem para outra com um único clique

"Levamos apenas 6 dias, em vez dos 4 meses esperados, para migrar nossos pipelines de ML do AWS para o GCP com a TrueFoundry, o que foi incrível. Somos parceiros desde cedo da TrueFoundry e vimos o produto melhorar significativamente."

— DevOps Lead

Criando impacto na experiência dos usuários com machine learning

Usando os modelos de ML implantados na plataforma TrueFoundry, a equipe conseguiu oferecer uma experiência de cliente muito mais fluida. Eles automatizaram os processos manuais, liberando assim o tempo da equipe de farmacêuticos. O projeto reduziu o tempo dos clientes entre a receita e o checkout de 2 horas para 5 minutos.

‍

Essas mudanças melhoraram o percentual de conversão dos clientes a partir do upload das receitas em cerca de 1 ponto percentual, o que representaria um impacto de US$ 1,5 milhão no faturamento da empresa no primeiro ano e, potencialmente, mais nos anos seguintes.

Depoimento do Head of Engineering