Blank white background with no objects or features visible.

TrueFoundryはSeldon AIの買収を発表し、エンタープライズAI向けコントロールプレーンを拡張します。プレスリリース全文はこちら→

「処方箋のアップロードから注文確定までの顧客離脱率が非常に高かったのです。」

— 処方薬部門 事業部長

従来の処方薬注文方法:遅延により顧客が離脱

従来の注文方法では、顧客は注文が処理されるまでに何時間も待つ必要がありました。その結果、処方箋のアップロードから注文までの間に多くの顧客が離脱していました(顧客の80~90%)。同社は、以下のプロセスを自動化することで、処理時間の短縮と顧客コンバージョン率の向上につながると考えました。

  1. 顧客がアップロードした画像が判読可能かどうかの検出
  2. 処方箋から医薬品の名前と用量を読み取り、それらを顧客のカートに入れる

事業部長は機械学習チームにアプローチし、これらの問題を解決できる機械学習パイプラインの構築を依頼しました。これは収益に直接影響するため、彼らは迅速な解決策を求めていました。

「私たちは専門外のことに多くの時間を費やしていました。」

— リードデータサイエンティスト

機械学習チームはプロジェクトの納期が遅れていました。チームは、新しい実験のためのインフラ設定、デモ作成、モデルAPIのデプロイなどで、DevOpsチームとのやり取りに多くの時間を費やしていました。彼らは、処方箋データに対するOCR(光学文字認識)やブレ検出のような高度なモデルを構築するという課題に直面していました。このデータはノイズが多く、モデルには高い精度が求められたため、最先端のモデルアーキテクチャを用いた複数の実験と反復が必要でした。

機械学習チームは、モデルを本番環境に投入する準備に追われていたため、複雑な機械学習問題の解決に集中する必要がありました。これは、ビジネスへの影響を実現するまでの期間が長期化することを意味しました。

同社は、機械学習チームがDevOpsの助けを借りずに、モデルの構築、テスト、デモ、本番環境へのデプロイ、監視を行うための機械学習パイプラインを構築できるMLOpsツールを求めていました。

TrueFoundryが機械学習パイプラインを5倍に最適化

TrueFoundryは、データサイエンスチームがMLOpsの要件に関して独立して作業できるようにしました。チームは、通常DevOpsチームとのやり取りが必要だった作業を、独立して実行できるようになりました。

「TrueFoundryはデータサイエンスチームのパートナーとして機能し、私たちのチームの成功を確実にするために、しばしばその範囲を超えて尽力してくれました。」

— シニアデータサイエンティスト

機械学習チームはTrueFoundryを以下の目的で使用しています。

実験を並行して実行することでプロトタイピングを10倍高速化

開発フェーズでは、チームはTrueFoundryプラットフォームを使用して

  • 10以上のモデル/ハイパーパラメータを並行して実行することで実験を高速化し、 TrueFoundryジョブを活用、実験時間を90%以上短縮しました。
  • 実験を追跡し、再現するためのメタデータをログに記録する。

モデルデプロイ時間を3日から1時間へ短縮

チームはプラットフォームを活用して、独自に1時間以内に本番モデルをデプロイできました。

  • 彼らはモデルのREST APIエンドポイントを異なるクラウドプロバイダー(AWS および GCP)に対して、UIまたはPython SDKを使用して統一されたワークフローでデプロイしました。
  • チームはモデルに対して、ロールアウト戦略、リソース制限、オートスケーリングなどを設定できました。
  • モデルのパフォーマンスが満足できるものになったら、UI上でワンクリックでモデルをステージング環境に昇格させることができました。

デモ作成による迅速なフィードバック

チームは定期的にプロダクトマネージャーや事業責任者からのフィードバックを必要としていたため、プラットフォームを使用して以下のことを行いました。

  • 薬剤師や医療専門家と直接、シンプルなUIでデモを迅速に作成し、モデルの性能を検証します。
  • データアノテーション用のUIを作成し、モデルトレーニング用のゴールデンデータセットを作成します。

モデルの監視と再トレーニングによる価値循環の完結

モデルのデプロイ後、機械学習チームはTrueFoundryプラットフォームを活用し、その性能を監視するパイプラインを構築しました。これにより、以下の方法でビジネスへの貢献を確実にしました。

  • 設定 ダッシュボード およびモデルの性能、レイテンシーなどに関するアラート
  • データドリフトが検出され、再トレーニング用のデータが利用可能な場合に、自動化された再トレーニング、検証、デプロイメントパイプラインを構築します。

データおよびセキュリティの漏洩を検出

データとモデル予測の機密性の高い性質を考慮し、機械学習チームはTrueFoundryプラットフォームを使用して、以下のことを行いました。

  • モデルで使用されるデータとその推論の監査証跡を設定します。
  • データおよびメモリリークを検出し、API認証などを設定します。

マルチクラウドMLデプロイメント

チームはAWSとGCPでワークロードを実行しており、一部のモデルをあるクラウドから別のクラウドへ移行する必要がありました。彼らはTrueFoundryのマルチクラウドコントロールプレーンを使用して、以下のことを行いました。

  1. クラウド間のアクセスとセキュリティを管理します。
  2. モデルと推論パイプラインをワンクリックで別のクラウドにクローンします。
「TrueFoundryを使ってMLパイプラインをAWSからGCPへ移行するのに、予想された4ヶ月ではなくわずか6日で完了しました。これは驚くべきことでした。私たちはTrueFoundryの初期パートナーであり、製品が大幅に改善されるのを見てきました。」

— DevOpsリード

機械学習でユーザー体験にインパクトを与える

TrueFoundryプラットフォームにデプロイされたMLモデルを使用することで、チームははるかにスムーズな顧客体験を提供できるようになりました。手作業のプロセスを自動化したことで、薬剤師チームの時間を解放しました。このプロジェクトにより、顧客の処方箋から会計までの時間が2時間から5分に短縮されました。

新プロセス:処方箋アップロード後5分以内にカートが更新されます

これらの変更により、処方箋をアップロードする顧客のコンバージョン率が約1パーセントポイント向上しました。これにより、初年度で会社に150万ドルのトップライン(売上高)への影響をもたらし、今後さらに増加する可能性があります。

エンジニアリング責任者の声

"We are on a mission to provide accessible healthcare to all through technology, and ML/AI are critical levers to achieving our mission. When we selected TrueFoundry, we were impressed by their team and credentials and were convinced they would be the right partners for our young team starting our ML/Data Science journey.

Throughout our collaboration, we were pleasantly surprised to realize many gains through our partnership with TrueFoundry. They are genuinely committed to their client's success, and we were able to achieve many benefits such as an accelerated path to production, a tenfold acceleration of experimentation, maturing our ML/DS practice, reaching milestones within a few months that we expected to reach in 2024, and significant cost savings. TrueFoundry was there for us as our sounding board to help guide our team to success.

We highly recommend TrueFoundry to all organizations looking to create an impact and achieve success in the ML/DS arena. Without leveraging the TrueFoundry platform, we would not have been able to save time and costs while making a significant customer impact in such a short amount of time."

— Head of Engineering

The fastest way to build, govern and scale your AI

MLパイプラインを初日から運用

パイプライン