データサイエンティストのためのKubernetes

はじめに

近年、機械学習のユースケースが大幅に拡大するにつれて、これらのモデルのトレーニング、デプロイ、監視に関する運用をスケールさせる必要性も非常に重要になっています。これらの懸念の多くは、一般的なソフトウェアのユースケースで「解決済み」とされているものと似ています。Kubernetesは、その基盤プラットフォームとして機能することで、クラウドネイティブエコシステムを統合してきたオープンソースソフトウェアの一つです。

したがって、機械学習のユースケースにKubernetesを活用することが有用であるかどうかを探ることが不可欠となります。まずはKubernetes自体と、その魅力について見ていきましょう。

Kubernetesとは？

引用元: Kubernetes

💡 Kubernetesは、コンテナ化されたアプリケーションのデプロイ、スケーリング、管理を自動化するためのオープンソースのコンテナオーケストレーションエンジンです。

簡単に言えば、Kubernetesは、複数のマシン間で動的にスケールする必要があるワークロードを実行および運用するための、シンプルで標準化された方法を提供します。

最も人気のある機能のいくつかを見ていきましょう。

• 自動デプロイ - Kubernetesは、数行のYAMLだけでDockerイメージをデプロイするシンプルな方法を提供します。これにより、何をどのようにデプロイし提供するかを宣言的に管理できます。また、この抽象化の上に堅牢なCIパイプラインを構築することも非常に容易になります。
• サービスディスカバリ - サービスは、静的なドメイン名を使用して互いに呼び出すことがネイティブに許可されています。これにより、他のサービスの場所を気にすることなく、オートスケーリングが可能になります。
• ロードバランシング - 特定のサービス宛のリクエストを、複数のノードに分散されたすべてのインスタンスにロードバランシングすることも処理されます。インターネットに公開するサービスには、クラウドプロバイダーから外部ロードバランサーをアタッチすることもできます。これにより、動的なオートスケーリング、グレースフルフェイルオーバー、ゼロダウンタイムのロールアウトが可能になります。
• 自己修復 - 組み込みのヘルスチェックメカニズムは、実行中のサービスを監視し、障害発生時にはワークロードを再起動して回復を試みます。これは、ネイティブのロードバランシングサポートと相まって、あらゆるサービスの信頼性にとって大きな利点となります。
• オートスケーリング - 実際のリソース消費量に基づいてワークロードのサイズを増減するオートスケーリング。これは、変動する負荷に直面するワークロードにとって、重要なコスト削減につながります。
• 開発者プラットフォーム - Kubernetesは、複数のチーム間でのコラボレーションのためのプラットフォームとして機能することを意図して構築されています。これは、ユーザーおよびロール管理、マルチテナンシーのネイティブサポートによって実現されます。これらの機能は、ある程度の規模を超えると絶対的に重要になります。
• 拡張性 - カスタムリソースとコントローラーのシステムにより、Kubernetesは機能セットを大幅に強化する他のツール群のプラットフォームとして機能します。これにより、他のツールによって対応される様々なユースケースが効果的に実現されます。例：GitOpsにはArgoCD、サービスメッシュにはIstio、MLパイプラインオーケストレーションにはKubeflowなど。
• オープンソース - Kubernetesがオープンソースであるということは、ベアメタルサーバーでの実行から、主要なクラウドプロバイダーが提供するマネージドオプションの利用まで、非常に幅広い選択肢があることを意味します。Kubernetesに密接に準拠することで、ビジネスニーズに応じてワークロードを実際に移動できる十分なポータビリティを提供するインターフェースが得られます。

これらは、デフォルトで利用可能な機能のほんの一部です。実際には、Kubernetesを基盤レイヤーとして構築されたツール群によって、多くのユースケースが解決されています。特定のツールについては、次回の記事で詳しく説明します。

データサイエンティストのワークフロー概要

Kubernetesとは何か、そしてソフトウェア開発のシナリオで提供される主要な機能について理解した上で、データサイエンティストのワークフローにおいて、具体的にどのような問題を解決できるのかを掘り下げてみましょう。

上図は、一般的なデータサイエンスパイプラインがどのように実行されるかの大まかな概要を示しています。多くの企業は、重複する機能を持つ多種多様な特注ソリューションを使用して、これらすべてを連携させています。

これらの各ステップを順に見ていき、Kubernetesがどこに適合するかを理解しようとします。

特徴量ストア

生データが有用になる前に、まずモデルトレーニングパイプライン用のクリーンな入力に変換される必要があります。ここで、特徴量ストアが特徴量データの変換、保存、提供を行うことで登場します。

Kubernetesはステートフルなワークロードのデプロイをサポートし、クラウドプロバイダーと非常にうまく連携して、永続性をシームレスに提供します。

モデル開発

ほとんどのモデル開発は、MLエンジニアがJupyter Notebookでコードを書くことから始まります。そして、多くの人にとって、それだけで十分な場合がほとんどです。これはPythonコードを実行するためのREPLインターフェースを提供します。これは個人のラップトップでホストされることから始まりますが、集中管理されたプールで実行する方が良いでしょう。 ホストされたJupyter Notebook 複数の個人が利用できる

Kubernetesの宣言型モデルと永続ストレージシステムのサポートにより、ノートブックのプールをホストすることが容易になり、個々のノートブックへのアクセス制御を可能にすることで、効果的なコラボレーションを促進します。

モデルトレーニング

ノートブックで記述されたアルゴリズムは、モデルアーティファクトを出力として得るために学習データを供給する必要があります。小規模なユースケースではノートブック内で完結できますが、大規模なデータセットでははるかに強力なパイプラインが求められます。通常、この段階でテストデータセットに対する検証も行われ、その後アーティファクトが本番環境での推論に利用されます。

Kubernetes上でDAGパイプラインをオーケストレーションするためのソリューションは複数存在します。AirflowはKubernetesをネイティブでサポートしており、KubeflowはKubernetes上に完全に構築されています。主要な監視ソリューションはすべてKubernetesとの優れた統合を提供しており、これは本番レベルのパイプラインを運用する上で不可欠です。

モデル管理

この段階では、データセットとモデルの保存およびバージョン管理を行います。これにより、モデルアーティファクトは必要な限り再現可能であることが保証されます。これは、Gitを使ったコード管理と同様に考えることができます。

このような管理システムの基盤となるデータストアはKubernetes自体でホストすることも可能ですが、多くの場合、クラウドプロバイダーが提供するマネージドソリューションを利用する方が良いでしょう。その場合、ほとんどのクラウドプロバイダーは自社のIAMシステムをKubernetesとシームレスに統合しており、アクセス認証情報を保存することなく、クラスター外から安全にデータにアクセスできるようになります。

モデルサービング

最後に、本番システムがその上で推論を実行できるように、モデルアーティファクトが準備されます。これは通常、モデルをAPIフレームワークでラップし、他のサービスがモデルを呼び出して推論を行えるようにすることを伴います。認証/認可、スケーラビリティ、信頼性など、ソフトウェアエンジニアリングと同様の懸念事項がここで浮上します。

ここでKubernetesが真価を発揮します。前のセクションで述べた機能のほとんどが、この段階で非常に重要になります。

モデル監視

あらゆる本番システムと同様に、現在デプロイされているモデルを継続的に監視することは、システムが期待通りに動作していることを確認するために不可欠です。監視すべきメトリクスには、予測の実際の精度から、システムがサポートできるレイテンシやスループットまで、あらゆるものが含まれます。

多くの監視ソリューションはKubernetesと密接に統合されています。実際にメトリクスをスクレイピングするターゲットの発見、その上での計算実行、そして後で利用するための保存といった一連の作業は、すべて外部依存なしで実行できます。

まとめ

Kubernetesを取り巻く状況は急速に拡大しており、多くのツールがすでに利用可能です。しかし、どの組織もKubernetesを全面的に導入する前に留意すべき落とし穴がいくつかあります。次号では、それらの落とし穴と、どのように軽減できるかについて詳しく説明します。