True ML Talks #6 - °Nomad Healthにおける機械学習プラットフォーム

Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support
True ML Talksの新しいエピソードをお届けします。今回は、°Nomad HealthのMLプラットフォームについて深く掘り下げ、Liming Zhao氏にお話を伺います。
Liming Zhao氏は、医療人材紹介業界に革命を起こしているテクノロジー企業、°Nomad HealthのCTOです。特にパンデミックに直面し、臨床医が不足している中、°Nomad Healthは医療従事者が最も緊急かつ魅力的な患者ケアのニーズを満たすための単発の派遣案件を見つけることができるマーケットプレイスを提供することを目指しています。
📌
Liming氏との対談では、以下のテーマを取り上げます:
- °Nomad HealthにおけるML活用事例
- °Nomad Healthの機械学習チーム
- 機械学習モデルのデプロイ
- カスタムFeature Storeソリューションの構築
- MLOpsツールの選定
- クラウドコストの管理
フルエピソードは以下からご視聴いただけます:
°Nomad HealthにおけるML活用事例
- 予測モデリング: °Nomad Healthは、業務にAIとMLを取り入れており、特に予測モデリングの分野で活用しています。臨床医が最も希少なリソースであることを踏まえ、作業の優先順位付けに役立てています。°Nomad Healthはこの分野に多額の投資を行っており、機械学習の核となる機能と位置付けています。
- レコメンデーションシステム: °Nomad Healthは、グラフベースのモデリングを使用して、臨床医に魅力的な求人を推奨しています。これをランキングやアウトリーチメールに組み込むことで、臨床医がすべての利用可能な求人を調べる時間がなくても、最も適した求人が提示されるようにしています。
- 大規模言語モデル(LLM): °Nomad Healthは、GPT-3などのLLMを使用して求人票の抽出と拡張を行っています。モデルを使用して求人要件を標準化し、詳細度や明確さが異なるテキストの塊から意味のある情報を抽出します。°Nomad Healthは履歴書へのLLMの適用も検証していますが、医療人材紹介における記載内容の網羅性にばらつきがあるため、難易度の高い分野となっています。
📌
医療人材紹介における履歴書向けLLM:
°Nomad Healthは、求人票や履歴書への大規模言語モデル(LLM)の活用を模索しています。同社は、GPT-3のような堅牢なモデルでより大きな成果を上げています。しかし、医療人材紹介の履歴書にLLMを使用することは、特定の資格やライセンスの確認が必要であるため、課題が存在します。°Nomad Healthは、自社プラットフォームを活用して包括的なデジタル履歴書資格セットを構築し、臨床医と医療施設の両方のプロセスを簡素化することを目指しています。
°Nomad Healthの機械学習チーム
°Nomad Healthのデータサイエンスチームは比較的小規模で、マネージャー、データサイエンティスト、データアナリスト、データエンジニア各1名を含む9名のチームメンバーで構成されています。残りの5名は機械学習エンジニアで、そのうち2名はインフラ開発とMLOpsに集中し、他の3名はモデルの構築、テスト、出荷を担当しています。彼らは他業界の既存のソリューションや参照問題を活用して特定のユースケースに適合させ、データの収集、パース、標準化に重点的に投資しています。°Nomadのチーム構造とコラボレーションの実践により、すべてのメンバーが連携して問題を解決し、迅速かつ効率的に動くことができます。データ駆動型のアプローチと、優秀で多様性に富んだチームのおかげで、自分たちのニーズとボトルネックから学びながら、MLOpsで大きな成果を収めています。
機械学習モデルのデプロイ
°Nomad Healthは、技術インフラの大部分がGoogle Cloud Platform(GCP)にあったため、Vertex AIに多額の投資を行っていましたが、ビジネスニーズが複雑化し、デプロイ頻度が高まるにつれて、本番サービスのエンドポイントをVertex AIから出し、Google Kubernetes Engine(GKE)クラスターにデプロイし始めました。これにより、チームはデプロイメントとCI/CDパイプラインにおいて、より高い柔軟性、制御性、拡張性を獲得できるようになりました。°Nomad Healthの機械学習チームは、モデルのトレーニングにVertex AIを使用しており、Vertex AIの豊富なライブラリ、インターフェース、ツールを活用して、迅速な試行、成功のモニタリング、有望なシグナルの把握を行っています。チームはMLflowの評価も行っていますが、現在スタックにDatabricksは使用していません。全体として、°Nomad Healthのデプロイ戦略の進化は、実用的な複雑さの認識と、隣接するエンジニアリングチームによるGKEでのデプロイ成功から生じたものです。この戦略により、機械学習チームはデプロイメントを制御しつつ、既存のプラクティスとインフラを活用できるようになりました。カスタムFeature Storeソリューションの構築
°Nomad Healthは、大規模なデータセットを処理し、より一貫性のあるFeature Storeを構築するために、カスタム特徴量エンジニアリングソリューションを作成しました。同社は、臨床医の求人閲覧、応募結果、資格や希望に関する情報など、異なる機械学習プロジェクトで同じデータセットを共有する必要があることに気付きました。彼らはFeature Storeを正式化し、生データを取得して基本的な変換を行い、ビジネスに整合した形でデータを着地させる責任を持つチームを作成しました。可視化への迅速な方向転換を可能にするため、BI部門は変換されたデータを使用できるようになりました。また、データサイエンスチームも特徴量のサブセットを迅速に抽出し、Feature Storeに呼び出すことができるようになりました。°Nomad Healthは、オープンソースソリューションのFeastを使用して異なるモデルの特徴量を抽出および保存しており、モデリングからのフィードバックはFeature Storeに戻されます。同社はモデリングにVertex AIを活用しており、デプロイメントには別のパイプラインを用意しています。MLプラットフォーム全体の環境における最も革新的なソリューションの1つは、生データをBIチームとデータサイエンスチームがそれぞれデータ分析と予測分析に使用できる、一貫したエンティティ、イベント、ディメンションに変換したことです。この生データの変換により、°Nomad Healthは応募や施設からのオファー発行と強く相関する信頼性の高いシグナルを作成できるようになりました。当初はVertex AIインフラから始めましたが、最終的には自社でオープンソース実装したFeature Storeへと移行しました。独自のデータ、つまりユニークな形状とデータセットを取得することこそが、実際に鍵となります。
MLOpsツールの選定
ビジネスの初期段階では、Vertex AIやSageMakerなど、必要な機能の大部分を提供するツールやプラットフォームに投資し、まずビジネス価値の実現に集中できるようにするべきです。堅牢なエンジニアリングチームやデータサイエンスチームが構築されたら、本番デプロイメントをプラットフォームから分離し、隣接するサービスを追加することができます。企業が歩むプロセスは、ツールのフルセットを推奨することよりも重要であり、常に現時点で妥当に機能するものを選び、そこから反復改善していくのが最善です。データサイエンスチームを立ち上げたばかりで2人しかいないのに、最初にやるべきことが独自のインフラをすべてセットアップすることでしょうか?一体何のために?その華やかなエンジンと非常に強力なインフラが実際に何をもたらすかを証明できたのでしょうか?
クラウドコストの管理
- モニタリングおよびアラートツールへの投資: TrueFoundryなどのツールを使用してインフラのパフォーマンスを監視し、コスト変動の原因となっているインスタンスを特定することを検討してください。これらのツールは、問題を早期に発見し、迅速に是正措置を講じるのに役立ちます。
- 手動のプラクティスへの依存: ログのモニタリングやColabノートブックにパイプされたシグナルなどの手作業によるプラクティスを使用して、コスト変動の原因となっているインスタンスを特定します。これらのインスタンスを毎週または隔週で調査し、必要に応じて特定のトレーニングモデルを再起動または終了します。
- 予算の設定とリアルタイムレポートの受信: クラウドコストの予算を設定し、クラウドプロバイダーからリアルタイムレポートを受信して、予算を超過しないようにします。これにより、コストを管理下に置き、予期せぬ支出を防ぐことができます。
- より高度なソリューションの実装: インフラが成長するにつれて、コストを効果的に管理するためのより高度なソリューションの実装を検討してください。これには、自動化ツールの使用や、クラウドコストを管理するための専任担当者の雇用の可能性が含まれます。
- コストとパフォーマンスのバランスの調整: 所望の成果を達成するには、コストとパフォーマンスのバランスを取ることが不可欠です。パフォーマンス要件を満たしながら費用対効果を高めるために、機械学習ワークロードの最適化を検討してください。
Liming Zhao氏からのその他の考察
MLOps:自社構築 vs 外部購入
- マネージドサービスかインハウスインフラかの選択は、MLOpsの実装において極めて重要です。組織が成熟するにつれて、ハイブリッドアプローチが推奨されます。
- コストとリソースの評価にあたっては、長期的な成果とコスト間のトレードオフを考慮する必要があります。コストを注意深く監視し、安定した製品については高パフォーマンスなコンポーネントを独自のインフラに移行します。
- 信頼性の低いモデルについては、コスト変動を許容しつつ、コスト帰属のためにタグを使用し、効果的なコスト最適化のために価格変動を監視します。
変化するビジネスニーズへの適応の重要性
パンデミック中、°Nomad Healthは求人応募の急増に対応するため、提示される可能性が最も高いオファーを優先しなければなりませんでした。しかし、人々が仕事への応募に慎重になるにつれて、レコメンデーションエンジンを調整して、候補者により多くの選択肢を表示するように変更する必要がありました。
振り返ってみると、不確実なビジネスニーズを抱える小規模チームにとって、スピードと自律性を最優先とした°Nomad Healthの初期の判断は正解でした。しかし、チームとビジネスニーズが進化するにつれて、同社は精度と効率性に重点を移さなければなりませんでした。
このプロセスは、機械学習の決定を下す際に、変化するビジネス状況を考慮することの重要性を浮き彫りにしています。アジャイルであり、適応する姿勢を持つことで、企業は変化するビジネス環境とともに進化できる情報に基づいた意思決定を行うことができます。今回のブログをお楽しみいただけた方は、TrueMLシリーズの過去のブログもぜひご覧ください
TrueMLのYouTubeシリーズの視聴と、TrueML ブログシリーズをぜひ引き続きお読みください。
TrueFoundryは、Kubernetes上のMLデプロイPaasであり、インフラチームの完全なセキュリティと制御を確保しながら、モデルのテストとデプロイにおける完全な柔軟性を開発者に提供し、開発者ワークフローをスピードアップします。当社のプラットフォームを通じて、機械学習チームはモデルを15分でデプロイおよび監視できるようになり、100%の信頼性、拡張性、および数秒でのロールバック機能を備えています。これにより、コストを削減し、モデルをより迅速に本番環境にリリースして、真のビジネス価値を実現できます。
TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.















.webp)





.webp)
.webp)
.png)

.png)
.png)
.png)
.png)
.png)
.webp)
.webp)






