Machine Learning Platform Integrations #1: Weights & Biases

Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support
実験追跡(Experimentation Tracking)は、機械学習開発における非常に重要なプロセスであり、プラクティショナーが実験の進行状況を効率的に管理・追跡できるようにします。実験追跡には、モデルのパフォーマンス、ハイパーパラメータ、トレーニングデータなどのさまざまな要因を記録および監視することが含まれ、これにより機械学習モデルのパフォーマンスに関するインサイトを得ることができます。
実験管理における課題
モデルの複雑さ、大規模なデータ量、機械学習開発で使用される多様なツールやフレームワークにより、実験の管理や結果の追跡は機械学習プラクティショナーにとって困難なタスクとなり得ます。ここでは、実験管理や結果の追跡においてプラクティショナーが直面する主な課題をいくつか紹介します。
- 再現性(Reproducibility): 実験結果を検証し、実世界のシナリオでモデルが優れたパフォーマンスを発揮することを確認するには、実験の再現が不可欠です。しかし、複雑なモデル、複数のフレームワーク、異なる計算環境を扱う場合、実験の再現は難しくなることがあります。
- 拡張性(Scalability): 機械学習プラクティショナーは大規模なデータセットを扱うことが多く、モデルのトレーニングには多くの計算能力と時間を要する場合があります。大規模な環境で実験を管理し結果を追跡するには、大容量のデータと計算処理を処理できるツールとインフラストラクチャが必要です。
- コラボレーション(Collaboration): 機械学習開発ではコラボレーションが不可欠ですが、複数のチームメンバー間で実験を管理し、結果を追跡することは困難です。データ、コード、実験結果を共有し、全員が同じリソースにアクセスできるようにするための堅牢なインフラストラクチャが必要となります。
- データ管理(Data Management): 機械学習モデルはデータに大きく依存しており、データを効果的に管理することがモデルの成功に不可欠です。しかし、データのクレンジング、ラベル付け、バージョニングなど、データ管理には時間と手間がかかる複雑な課題が存在します。
- ハイパーパラメータの最適化(Hyperparameter Optimization): モデルに最適なハイパーパラメータを見つける作業は、異なるハイパーパラメータで複数の実験を繰り返し実行する試行錯誤のプロセスです。これらの実験を管理し、結果を追跡することは時間がかかり複雑になる場合があります。
Weights & Biases の機能を探る
Weights & Biases (W&B) は、機械学習プラクティショナーが実験を効果的に管理および追跡できるように設計されたプラットフォームです。実験の追跡、可視化、コラボレーションのためのツールセットを提供し、堅牢でスケーラブルな機械学習モデルの開発を容易にします。
W&B プラットフォームの主な機能とメリットは以下の通りです。
- 実験追跡(Experiment Tracking): W&B は、モデルのハイパーパラメータ、メトリクス、出力アーティファクトを自動的にログに記録することで、ユーザーの実験追跡を支援します。これにより、プラクティショナーは実験の記録を保持し、異なるモデルやハイパーパラメータを簡単に比較できます。
- 可視化(Visualizations): W&B は、実験と結果を可視化するための各種ツール群を提供します。これには3Dビジュアライゼーション、混同行列(Confusion Matrix)、散布図などが含まれます。これにより、プラクティショナーはデータをより深く理解し、実験結果のパターンや傾向を特定できます。
- コラボレーション(Collaboration): W&B は、実験、データ、結果を共有するための機能を提供し、チームメンバーとの連携をスムーズにします。また、コードとデータのバージョン管理も提供し、全員が同じリソースで作業できるようにします。
- 連携・統合(Integration): W&B は、TensorFlow、PyTorch、Keras、Scikit-learn など、幅広い機械学習フレームワークと簡単に連携できます。これにより、開発プロセスを大幅に変更することなく、既存のワークフローやフレームワークで W&B を利用できます。
- 整理・分類(Organization): W&B は、プロジェクト、実行(Run)、タグなど、実験を整理するための機能を提供します。これにより、複数のチームメンバーやプロジェクトにわたる実験の管理と追跡が容易になります。
ステップバイステップガイド: Weights & Biases の簡単なセットアップ手順
実験追跡のために W&B をセットアップする手順は以下の通りです。
- W&B アカウントの登録: 最初のステップは、W&B のウェブサイトで無料アカウントを登録することです。ウェブサイトにアクセスし、サインアップ手順に従って作成します。
- W&B ライブラリのインストール: アカウント登録後、開発環境に W&B ライブラリをインストールします。ユーザーの好みや開発環境に応じて、pip または conda を使用して W&B ライブラリをインストールできます。
- W&B の初期化: ライブラリがインストールされたら、コード内で
wandb.init()関数を呼び出して W&B を初期化する必要があります。この関数は W&B ライブラリを初期化し、新しい Run(実行)をセットアップします。 - メトリクスのログ記録: トレーニング中に
wandb.log()関数を呼び出すことで、損失(Loss)や精度(Accuracy)などのメトリクスをログに記録できます。この関数はメトリクスの辞書を入力として受け取り、W&B ダッシュボードに記録します。 - ハイパーパラメータのログ記録:
wandb.config関数を呼び出すことで、学習率(Learning Rate)やバッチサイズ(Batch Size)などのハイパーパラメータも記録できます。この関数はハイパーパラメータの辞書を入力として受け取り、W&B ダッシュボードに記録します。 - 可視化データのログ記録: 最後に、適切なビジュアライゼーションデータを渡して
wandb.log()関数を呼び出すことで、画像やプロットなどの可視化データを記録できます。W&B は、3Dビジュアライゼーション、混同行列、散布図など、多様な可視化ツールを提供しています。
例:
W&B を使用してメトリクス、モデル、ハイパーパラメータ、および可視化データを記録する例を以下に示します。
import wandb
import numpy as np
import matplotlib.pyplot as plt
import tensorflow as tf
# Step 1: Initialize W&B
wandb.init(project="my-project")
# Step 2: Log hyperparameters
config = {
"learning_rate": 0.001,
"batch_size": 32,
"epochs": 10
}
wandb.config.update(config)
# Step 3: Train model and log metrics
model = tf.keras.models.Sequential([
tf.keras.layers.Dense(10, activation='relu', input_shape=(10,)),
tf.keras.layers.Dense(1)
])
model.compile(optimizer=tf.keras.optimizers.Adam(config['learning_rate']),
loss=tf.keras.losses.MeanSquaredError(),
metrics=[tf.keras.metrics.MeanAbsoluteError()])
for epoch in range(config['epochs']):
# ... train model ...
history = model.fit(x_train, y_train, batch_size=config['batch_size'])
loss = history.history['loss'][-1]
mae = history.history['mean_absolute_error'][-1]
wandb.log({"epoch": epoch, "loss": loss, "mae": mae})
# Step 4: Log visualizations and model
x = np.linspace(0, 10, 100)
y = np.sin(x)
fig, ax = plt.subplots()
ax.plot(x, y)
wandb.log({"my_plot": wandb.Image(fig)})
wandb.save('my_model.h5')
# Step 5: Finish run
wandb.finish()
c
シームレスな統合: Weights & Biases に対する TrueFoundry のアプローチ
TrueFoundry は Weights & Biases Model Registry とシームレスに統合されており、TrueFoundry を使用して Weights & Biases にログ記録されたモデルを Kubernetes クラスターにデプロイできます。
📌
モデル管理や実験追跡に Weights & Biases を使用するだけでなく、TrueFoundry の実験追跡ツールである MLFoundry を使用することも可能です。

📌
以下の Colab ノートブックを使用して、下のコードを実際に試すこともできます。
Colab ノートブック
ステップ 1 - インストールとセットアップ:
- wandb をインストール
pip install wandb -qU
- W&B アカウントにログイン
import wandb
wandb.login()
- servicefoundry をインストール
pip install -U "servicefoundry"
- Truefoundry にログイン
sfy login
ステップ 2 - モデルのトレーニングとログ記録:
まず wandb.init() を使用してプロジェクトを初期化します。
次に、ML モデルをトレーニングして joblib ファイルとして保存します。
その後、wandb.save() を介して joblib ファイルを wandb に保存します。
import wandb
from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LogisticRegression
from sklearn.metrics import classification_report
import joblib
# Initialize W&B
wandb.init(project="iris-logistic-regression")
# Load and preprocess the data
X, y = load_iris(as_frame=True, return_X_y=True)
X = X.rename(columns={
"sepal length (cm)": "sepal_length",
"sepal width (cm)": "sepal_width",
"petal length (cm)": "petal_length",
"petal width (cm)": "petal_width",
})
X_train, X_test, y_train, y_test = train_test_split(
X, y, test_size=0.2, random_state=42, stratify=y
)
# Initialize the model
clf = LogisticRegression(solver="liblinear")
# Fit the model
clf.fit(X_train, y_train)
# Evaluate the model
preds = clf.predict(X_test)
# Log the model and the evaluation metrics to W&B
joblib.dump(clf, "model.joblib")
wandb.save("model.joblib")
# Finish the run
wandb.finish()
ステップ 3 - 推論アプリケーションと依存関係ファイルの作成:
truefoundry にデプロイするには、アプリケーションコードを含む app.py ファイルと、依存関係を含む requirements.txt ファイルの2つのファイルを作成する必要があります。
.
├── app.py
├── deploy.py
└── requirements.txt
c
- app.py:
ここでは、wandb.restore()に以下の引数を渡す必要があります:<name_of_saved_file>および"username/project/run_id"
例:wandb.restore("model.joblib", "adityajha-tfy/iris-logistic-regression/00r5xvyv")
import os
import wandb
import joblib
import pandas as pd
from fastapi import FastAPI
wandb.login(key=os.environ["WANDB_API_KEY"])
# Retrieve the model from W&B
model_joblib = wandb.restore(
'model.joblib',
run_path="adityajha-tfy/iris-logistic-regression/00r5xvyy",
)
model = joblib.load(model_joblib.name)
# Load the model
app = FastAPI(root_path=os.getenv("TFY_SERVICE_ROOT_PATH"))
@app.post("/predict")
def predict(
sepal_length: float, sepal_width: float, petal_length: float, petal_width: float
):
data = dict(
sepal_length=sepal_length,
sepal_width=sepal_width,
petal_length=petal_length,
petal_width=petal_width,
)
prediction = int(model.predict(pd.DataFrame([data]))[0])
return {"prediction": prediction}
- requirements.txt:
fastapi
joblib
numpy
pandas
scikit-learn
uvicorn
wandb
ステップ 4 - TrueFoundry の Python SDK を使用してデプロイを構成する
- deploy.py:
import argparse
import logging
from servicefoundry import Build, PythonBuild, Service, Resources, Port
# Setup the logger
logging.basicConfig(level=logging.INFO)
# Setup the argument parser
parser = argparse.ArgumentParser()
parser.add_argument("--workspace_fqn", required=True, type=str)
parser.add_argument("--wandb_api_key", required=True, type=str)
args = parser.parse_args()
service = Service(
name="fastapi",
image=Build(
build_spec=PythonBuild(
command="uvicorn app:app --port 8000 --host 0.0.0.0",
requirements_path="requirements.txt",
)
),
ports=[
Port(
port=8000,
host="ml-deploy-aditya-ws-8000.demo.truefoundry.com",
)
],
resources=Resources(
cpu_request=0.25,
cpu_limit=0.5,
memory_request=200,
memory_limit=400,
ephemeral_storage_request=200,
ephemeral_storage_limit=400,
),
env={
"WANDB_API_KEY": args.wandb_api_key
}
)
service.deploy(workspace_fqn=args.workspace_fqn)
ステップ 5 - TrueFoundry 経由でサービスをデプロイする
以下のコマンドを実行し、ご自身の値を渡します。
- Workspace FQN:(ダッシュボードで確認できます)
- Wandb API Key
python deploy.py --workspace_fqn "<Your Workspace FQN>" --wandb_api_key "<Your Wandb API Key>"
これで完了です!ログ内でデプロイされたサービスのダッシュボードを確認できます。そして右上隅に、デプロイされたアプリケーションのエンドポイントが表示されます。

TrueFoundry は、Kubernetes 上で動作する ML デプロイ PaaS であり、開発者のワークフローを高速化すると同時に、モデルのテストやデプロイにおける完全な柔軟性を提供し、インフラチームのための完全なセキュリティと管理性を確保します。当社のプラットフォームを通じて、機械学習チームはモデルを100%の信頼性と拡張性で15分以内にデプロイおよび監視できるようになり、数秒でのロールバックも可能です。これによりコストを削減し、モデルのプロダクションリリースを迅速化して、実質的なビジネス価値の実現を後押しします。
TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.


















.webp)





.webp)
.webp)
.png)

.png)
.png)
.png)
.png)
.png)
.webp)
.webp)






