Beschleunigen Sie die Datenverarbeitung um das 30- bis 40-fache mit NVIDIA RAPIDS auf TrueFoundry

‍Beschleunigen Sie die Datenverarbeitung um das 30- bis 40-fache mit NVIDIA RAPIDS auf TrueFoundry

Die heutigen maschinellen Lernprojekte auf Unternehmensebene beinhalten häufig die Verarbeitung großer Datensätze, was traditionelle CPU-basierte Frameworks wie Pandas, die oft mit Leistungsengpässen zu kämpfen haben, vor Herausforderungen stellt. NVIDIA RAPIDS bietet eine revolutionäre Lösung, die GPU-Parallelität um die Datenverarbeitung drastisch zu beschleunigen. In diesem technischen Detail werden wir untersuchen, wie RAPIDS Ihre Datenworkflows verbessern kann, indem 30—40× und demonstrieren Sie, wie TrueFoundry die nahtlose Nutzung der GPU-beschleunigten Datenverarbeitung vereinfacht.

Einführung in die GPU-beschleunigte Datenverarbeitung mit NVIDIA RAPIDS

NVIDIA RAPIDS umfasst mehrere wichtige Bibliotheken, die jeweils darauf ausgelegt sind, bestimmte Aspekte der Data-Science-Pipeline durch Nutzung der GPU-Leistung zu beschleunigen. Die folgende Tabelle bietet einen kurzen Überblick über diese Kernkomponenten:

Lassen Sie uns eine Bibliothek herausgreifen, die in Unternehmen am häufigsten für die Datentechnik verwendet wird

cUDF: GPU-beschleunigte DataFrames für die Datenaufbereitung

1. cUDF dient als GPU-DataFrame-Bibliothek, bietet beschleunigte Funktionen für gängige Datenmanipulationsaufgaben wie Laden, Zusammenfügen, Aggregieren, Filtern und allgemeine Datentransformationen.
2. Das Design bietet eine Pandas-ähnliche API, die Dateningenieuren und Datenwissenschaftlern sehr vertraut ist und einen reibungslosen Übergang zu GPU-beschleunigten Workflows ermöglicht.
3. Ein bemerkenswerter Fortschritt ist der „Pandas Beschleunigermodus„, ermöglicht die GPU-Beschleunigung mit minimalen oder „keinen Codeänderungen“ an bestehenden Pandas-Workflows.

In der Vergangenheit waren GPUs jedoch nicht am einfachsten in Datenworkflows zu integrieren. Wir haben mit Leitern aus dem Bereich Datentechnik in drei Unternehmen gesprochen Rapids in der Produktion betreiben wollen — ein Fortune-500-Fintech, ein Einhorn für Online-Lernen und eine bekannte Q & A-Plattform —, hörten wir denselben Refrain: „In jedem Sprint entdecken wir einen weiteren Job, der kaputt ging, weil CUDA 11.8 sich auf einen einzelnen Arbeiter eingeschlichen hat. Zweimal im Monat bauen wir unsere Schleusen in Conda wieder auf. „— Leiter der Datenplattform, FinTech

‍Die traditionelle Herausforderung: Installation und Betrieb von RAPIDS

Wenn Sie jemals versucht haben, RAPIDS auf Ihrem eigenen Computer oder einer generischen Cloud-Instanz zu installieren, wissen Sie, dass dies der Fall sein kann schmerzhaft. RAPIDS hat spezifische Versionsabhängigkeiten (CUDA-Toolkit-Versionen, genaue Python- und Bibliotheksversionen usw.), was bedeutet, dass eine falsche Kombination zu kryptischen Fehlern führen kann.

Das ist machbar, aber alles andere als einfach — die Einrichtung der Umgebung kann lange dauern, und das Mischen von RAPIDS mit anderen Python-Paketen kann leicht zu Abhängigkeitskonflikten führen. Tatsächlich erfordert die Pflege einer requirements.txt für RAPIDS oft ein Pinning sehr spezifische Versionen von NumPy, Pandas, Scikit-Learn usw. und Nichtübereinstimmungen können Ihren Code kaputt machen. All dieser Einrichtungsaufwand ist ein Hindernis, wenn Ihr Ziel nur darin besteht, die Datenverarbeitung zu beschleunigen.‍

Verwendung von Google Collab

Google Colab bietet eine RAPIDS-Integration. Die GPU-Laufzeiten von Colab bieten kompatible Treiber und CUDA-Versionen, sodass eine manuelle Einrichtung entfällt. Während `! pip install rapids-cuda12.0` wird weiterhin benötigt, Colab verwaltet Abhängigkeiten und ermöglicht so die schnelle Verwendung von GPU-beschleunigten cUDF und CumL ohne komplexe lokale Installationen.

In den meisten Fällen benötigen maschinelle Lernsysteme für Unternehmen jedoch mehr als nur eine Codierungs-IDE, die sie nicht bereitstellen.

‍GPU-Beschleunigung leicht gemacht mit TrueFoundry

TrueFoundry überwindet diese traditionellen Barrieren und macht RAPIDS einfach zu bedienen und zu verwalten:

Vorkonfigurierte GPU-Umgebungen: TrueFoundry bietet eine verwaltete NVIDIA CUDA 12.x-Toolkit-Umgebung. Sie müssen nur dieses Notebook ausführen und Rapids per Pip installieren <cuda version>

GPU-Bereitstellung auf Abruf: Wählen Sie GPUs (vor Ort oder bei Bedarf) einfach direkt über die TrueFoundry-Oberfläche aus. Die Plattform verwaltet automatisch Treiberinstallationen und Abhängigkeitskonfigurationen.

Docker-Integration: Vorgefertigte Docker-Images mit RAPIDS ermöglichen den sofortigen Zugriff ohne Installationsaufwand.

Mit der integrierten Umgebung von TrueFoundry können Datenwissenschaftler GPU-beschleunigte Pipelines schnell prototypisieren, entwickeln und bereitstellen.

Hyperparameter-Optimierung war aufgrund der Ressourcen, die für die Durchführung so vieler verschiedener Ausbildungsberufe benötigt wurden, schwierig in praktische Anwendungen umzusetzen. Sie können HPO auch mit Nvidia Rapids ausführen als Jobs bei Truefoundry.

Durchgängiges Beispiel: Pandas gegen CuDF in ~1 B NYC-Taxireihen

Unten finden Sie das genaue Notizbuch, das wir auf TrueFoundry ausgeführt haben, um den Mittelwert zu ermitteln

import os, time, urllib.request
from pathlib import Path
import pandas as pd
import cudf
import dask_cudf
from dask.distributed import Client
from dask_cuda import LocalCUDACluster

# ----- CONFIG -------
MONTHS = pd.date_range("2018-01-01", "2021-07-01", freq="MS").strftime("%Y-%m").tolist()
DATA_DIR = Path("data")               # where Parquet files will live
REPEATS  = 3                         
TS_COL   = "tpep_pickup_datetime"
VAL_COL  = "total_amount"
BASE_URL = "https://d37ci6vzurychx.cloudfront.net/trip-data/"

‍ Datensatz wird geladen

def ensure_data():
    DATA_DIR.mkdir(exist_ok=True)
    files = []
    for m in MONTHS:
        fname = f"yellow_tripdata_{m}.parquet"
        out   = DATA_DIR/fname
        if not out.exists():
            url = BASE_URL + fname
            print(f"Downloading {fname} …")
            urllib.request.urlretrieve(url, out)
        files.append(str(out))
    return files
files = ensure_data()
print(f"→ {len(files)} files ready (≈{len(files)*23:,} M rows total)")

‍Definition des Pandas-Workflows

def pandas_workflow(files):
    dfs = [pd.read_parquet(f) for f in files]
    pdf = pd.concat(dfs, ignore_index=True)
    pdf["day"] = pd.to_datetime(pdf[TS_COL]).dt.date 
    return pdf.groupby("day")[VAL_COL].mean().max()

GPU ausführen — Dask + cUDF-Arbeitsablauf

# <code:dask-cudf-workflow>
from dask.distributed import Client
from dask_cuda import LocalCUDACluster
import dask_cudf, cudf

def dask_cudf_workflow(files):
    cluster = LocalCUDACluster()
    client  = Client(cluster)
    print("▶ Running on", len(client.ncores()), "GPU(s)")
    
    ddf = dask_cudf.read_parquet(files)
    ddf["day"] = ddf[TS_COL].dt.floor("D")
    # compute group→mean→max across the cluster
    result = (
        ddf
        .groupby("day")[VAL_COL]
        .mean()
        .max()
        .compute()
    )
    client.close()
    cluster.close()
    return result

Ergebnisse

Selbst auf einer einzelnen GPU sahen wir bereits Laufzeiten unter 10 s; das Hinzufügen von GPUs mit Dask ermöglichte eine nahezu lineare Skalierung bis zur Netzwerksättigung.
Das ist eine 37-fache Produktivitätssteigerung, ohne eine einzige Geschäftslogik zu ändern. Sind Sie bereit, Ihre Verarbeitungszeiten von Minuten auf Sekunden zu reduzieren? Starten Sie ein RAPIDS-Notizbuch auf TrueFoundry und sehen Sie den Unterschied.

Mehr als Geschwindigkeit: Skalierbarkeit und produktionsreife Workflows

Die Geschwindigkeit ist fantastisch, aber ebenso wichtig ist die Integration dieser GPU-Workflows in Ihre gesamte Datenplattform. Hier sind einige zusätzliche Vorteile der Verwendung von RAPIDS auf TrueFoundry:

• Multi-GPU-Skalierung — Starten Sie einen Dask-CUDF-Cluster auf zwei oder mehr GPUs mit einer einzigen Jobspezifikation. TrueFoundry stellt den Scheduler und die Worker automatisch bereit und sorgt so für nahezu lineare Durchsatzsteigerungen bei Datensätzen, die den Arbeitsspeicher einer einzelnen GPU überschreiten.
  
  
• Reibungslose Pipeline-Werbung — Derselbe Notebookcode kann über die Benutzeroberfläche von TrueFoundry zu einem geplanten Batch-Job hochgestuft oder in einen größeren Workflow integriert werden. Durch die Konsistenz der Umgebung wird das „Es funktioniert lokal“ zwischen Exploration und Produktion vermieden.
  
  
• Kostenbewusste GPU-Zuweisung — Fordern Sie On-Demand- oder Spot-GPUs an, definieren Sie Regeln für die automatische Skalierung und kombinieren Sie CPU- und GPU-Stufen in einer Pipeline. Ressourcen werden freigegeben, wenn sie inaktiv sind. So wird sichergestellt, dass Sie nur für die tatsächlich genutzte Beschleunigung zahlen.
  
  
• Integrierte Beobachtbarkeit — Plattform-Dashboards geben Aufschluss über GPU-Auslastung, Speicherbedarf, Durchsatz und Fehler- und Latenzmetriken sowie Warnhinweise für proaktives Tuning und Kapazitätsplanung.

Zusammenfassend lässt sich sagen, dass TrueFoundry die Lücke zwischen dem Ausprobieren von RAPIDS an Ihren Daten und der Bereitstellung auf robuste, skalierbare Weise schließt. Sie erhalten das Beste aus beiden Welten: extreme Beschleunigungen von NVIDIA RAPIDS und dem Zuverlässigkeit und einfache Bedienung einer verwalteten Plattform.