Baseten vs Modal: Prijzen, Cold Starts en wat de Tarievenkaart Verbergt

Beide zijn serverless GPU-platformen, beide schalen standaard naar nul, beide verwerken productieverkeer voor bekende bedrijven. Dit is een eerlijke strijd, maar ze hebben niet dezelfde opzet. Baseten heeft een platform voor model-serving gebouwd en dit verder uitgebreid. Modal heeft een algemeen computeplatform gebouwd waarin inference één van de zes producten is. Dat verschilt in de SDK, in wat er op de tarievenkaart staat en of je het in je eigen account kunt draaien.

Het meest nuttige hieronder is de prijsmethodologie, omdat gepubliceerde GPU-uurtarieven tussen deze twee niet vergelijkbaar zijn en de afwijking groot genoeg is om een beslissing te doen kantelen. Cijfers gecontroleerd op 25 september 2026.

Baseten: overzicht

Baseten is productie-inference voor open-source, custom en fine-tuned modellen, via Dedicated Deployments, per-token Model API's en Training (prijzen).

Opgericht in 2019 door Tuhin Srivastava (CEO), Amir Haghighat (CTO), Phil Howes en Pankaj Gupta. Financiering verliep via Series B, C, D en een $300M Series E op $5B, tot een $1.5B Series F op een $13B waardering op 22 juni 2026 (aankondiging); totaal opgehaald "meer dan $2B." De omzet groeide naar verluidt 20x jaar-op-jaar; ARR is niet gepubliceerd [VERIFY]. Klanten zijn onder meer Cursor, Notion, Harvey, HubSpot, OpenEvidence en Vercel.

Wat betreft een getal dat je wellicht voorbij hebt zien komen: persberichten eind september 2026 (Axios 22 sep, Bloomberg 23 sep) spreken over gesprekken rond een veel grotere ronde rond een gemelde $26B. Baseten heeft niets gepubliceerd. $13B is het laatste bevestigde cijfer en het cijfer dat we hanteren.

[SCREENSHOT: Baseten — het Dedicated Deployments dashboard dat replica states, autoscaling configuratie en latency percentielen toont voor een live model]

• Prijzen. Basic is $0/maand pay-as-you-go inclusief SOC 2 Type II en HIPAA en geen platformkosten op welk gepubliceerd niveau dan ook; Pro en Enterprise zijn op offertebasis, waarbij Enterprise SLA's, self-hosted deployments, data residency en geavanceerde RBAC toevoegt. Facturering is per minuut, geen kosten bij inactiviteit. Gratis credits zijn beschikbaar, het bedrag is niet gepubliceerd [VERIFY]. Baseten publiceert ook een tarievenkaart per token — GPT OSS 120B op $0.10 in / $0.50 uit per miljoen tokens.
• Cold starts. Het Baseten Delivery Network cached weights in niveaus — node-lokale NVMe, een in-cluster peer cache, en vervolgens een gespiegelde origin — wat zorgt voor 2-3x snellere cold starts met meer dan 2 GB/s naar H100-nodes en, commercieel gezien het belangrijkste punt: “gewichtsoverdracht verbruikt geen factureerbare GPU-tijd” (BDN post, 9 apr 2026). Geen latency-in-seconden cijfer aanwezig in de huidige documentatie [VERIFY]. Baseten blog “Laatst bijgewerkt” stempels zijn bewerkingsdatums, geen publicatiedatums.
• Deployment en SDK. Truss verpakking — config.yaml plus een optionele model/model.py met load en predict, of je eigen Docker-image — met baseten model push --watch voor een live-reload dev deployment en baseten model push voor een onveranderbare productieversie. Concurrency is op twee niveaus — concurrency_target voor de autoscaler, predict_concurrency in de container — en multi-node met InfiniBand wordt ondersteund.
• Self-hosted en multi-cloud — het duidelijkste onderscheid. Baseten Cloud; Self-hosted, workload plane in je VPC, waarbij “inference-verzoeken rechtstreeks naar je workload plane worden geleid zonder Baseten-infrastructuur te passeren”; en Hybrid, met spillover. Daarboven bevindt zich multi-cloud capaciteitsbeheer, in de markt gezet als “20+ clouds als één GPU-pool”, met cross-region failover.
• Observability en compliance. Latency percentielen, replica states en GPU metrics, plus engine-native vLLM en SGLang metrics die automatisch worden gedetecteerd zonder configuratie; Prometheus, OTLP en OTel tracing. SOC 2 Type II, HIPAA, GDPR, met standaard nul dataretentie voor synchrone inference. ISO 27001 [VERIFY]; egress-prijzen niet gevonden [VERIFY].

Baseten heeft ook Blaxel overgenomen, een bedrijf in agent-sandbox en microVM-infrastructuur, aangekondigd op 10 september 2026, voorwaarden niet bekendgemaakt (aankondiging) — een directe stap op het terrein van Modal's Sandboxes, pas twee weken oud zonder geleverde functionaliteit om te beoordelen.

Aanzienlijk beter voor: gereguleerde kopers die inference in hun eigen VPC nodig hebben, waar Modal geen equivalent voor heeft; iedereen met PHI, aangezien HIPAA in de gratis tier zit; teams die TensorRT-LLM-class optimalisatie willen zonder dit zelf te bouwen; en regio-gebonden of kleine GPU-workloads.

Modal: overzicht

Modal noemt zichzelf “een cloud gebouwd voor AI. Geen GPU-cloud voor één enkel doel, maar een platform met de juiste primitieven” (Series C post). Producten: Inference, Sandboxes, Training, Notebooks, Batch, Core Platform. Die lijst is het argument — inference is slechts één onderdeel.

Opgericht in 2021 door Erik Bernhardsson en Akshat Bubna; het oprichtingsjaar komt van TechCrunch, niet van een Modal-pagina [VERIFY]. Het team heeft een eigen bestandssysteem, container-runtime, scheduler en image builder gebouwd, wat terug te zien is in de cold-start cijfers. Financiering verliep via seed, Series A en een $87M Series B op $1.1B, tot een $355M Series C op $4.65B post op 21 mei 2026; totaal “meer dan $466M.” Modal publiceert wat Baseten niet doet — “het overschrijden van $300 miljoen aan geannualiseerde omzet”, en dat “Sandboxes al meer dan een derde van onze omzet genereren”. Klanten zijn onder meer Cognition, DoorDash, Suno en Ramp.

[SCREENSHOT: Modal — het app dashboard dat container aantallen, GPU-utilisatie en cold-start timing toont voor een gedeployde Function]

• Prijzen. Starter $0/mnd plus compute, $30/mnd gratis compute, 1 dag logretentie. Team $250/mnd plus compute, $100/mnd gratis compute, 30 dagen logs. Enterprise custom, met toevoeging van audit logs, SAML SSO, HIPAA en RBAC. Facturering is per seconde, en hier zit het cruciale punt: CPU en geheugen worden afzonderlijk van de GPU gefactureerd — CPU op $0.04716 per fysiek core-uur, geheugen op $0.007992/GiB/uur. Sandbox en Notebook CPU en geheugen kosten 3x het Function-tarief. Regio-binding is 1.15x voor brede of 1.75x voor specifieke regio's; non-preemptible is 3x. Geen per-token tarievenkaart.
• Cold starts. Containers starten op in ongeveer een seconde. Memory Snapshots is de genoemde functie: CPU-snapshots GA, GPU-snapshots Alpha. Modal's documentatie vermeldt 3-10x sneller en het engineering-blog koopt uit met 10x (Parakeet van 20s naar 2s). Modal's Series C post gebruikte een “100x” regel die haar eigen documentatie en engineering-blog niet ondersteunen, dus 3-10x is het te hanteren cijfer. GPU-snapshots “versnellen het laden van modellen uit de opslag niet” en “kunnen dit zelfs verslechteren door overhead toe te voegen”, zijn over het algemeen niet compatibel met multi-GPU code, en verlopen na 7 dagen.
• Deployment en SDK. Decorator-gebaseerde Python — @app.function(), @app.cls(), @modal.fastapi_endpoint() — met images gedefinieerd in Python via method chaining in plaats van een Dockerfile, en modal run / modal deploy / modal serve voor de workflow. Containers draaien onder gVisor; JS en Go SDK's zijn in Beta. Regio's zijn breed (us, eu, ap) of specifiek (us-west, jp) en strikt gebonden; multi-node clusters zijn Beta. Als je graag infrastructuur als Python schrijft, is dit de prettigste developer experience in deze categorie.
• Geen self-hosted optie. Geen BYOC, on-prem of klant-VPC deployment: de Enterprise tier vermeldt geen optie voor deployment-locatie, cloud= kiest op welke cloud Modal inplant in plaats van je eigen account, en llms.txt bevat nul vermeldingen van BYOC, self-host, on-prem of VPC. De beperking rond data residency is het vermelden waard: alle logs, alle duurzame opslag, Function payloads boven 2 MiB en alle async payloads worden opgeslagen in de Verenigde Staten, ongeacht de containerregio.
• Observability en compliance. GPU-utilisatie, vermogen, temperatuur en geheugen, met Modal's eigen voorbehoud dat deze “niet rechtstreeks kunnen worden gebruikt om prestatieproblemen te debuggen”, plus OTLP-export naar elke locatie. SOC 2 Type 2 ja. HIPAA is voorwaardelijk — BAA vereist, alleen Enterprise, en Volumes v1, Images, Memory Snapshots en gebruikerscode vallen buiten de BAA. Invoer en uitvoer worden tot 7 dagen bewaard. ISO 27001 [VERIFY] — niet vermeld.

[SCREENSHOT: Modal — de prijzenpagina met de GPU-tabel naast de afzonderlijke CPU en geheugen posten]

Aanzienlijk beter voor: alles wat geen model server is — sandboxes, onvertrouwde code, RL-omgevingen, batch, notebooks. Python-ergonomie. Grote GPU's, niet-regiogebonden, piekgevoelige workloads. GPU-diversiteit, aangezien L40S, A100 40GB en B300 geen Baseten-equivalent hebben. En init-zware cold starts die worden gedomineerd door JIT en imports in plaats van het laden van gewichten.

Architectuur en deployment vergeleken

De Eerlijke weergave van cold starts: ze lossen verschillende helften van hetzelfde probleem op. Baseten richt zich op de overdracht van gewichten en telt deze overdracht niet mee voor de facturatie. Modal richt zich op de processtatus met snapshot-herstel, wat expliciet niet helpt bij het laden van gewichten. Als je cold start bestaat uit 140GB aan gewichten, is de benadering van Baseten relevant; als het gaat om imports, JIT en CUDA graph capture, is die van Modal dat.

GPU-prijzen: het gecommuniceerde tarief versus het werkelijke tarief

Methodologie. Baseten publiceert per-minuut tarieven voor all-in instantie-SKU's — de GPU wordt geleverd met een vaste hoeveelheid vCPU en RAM. Modal publiceert per-seconde tarieven voor alleen de GPU, waarbij CPU en geheugen afzonderlijk worden gefactureerd. Om een eerlijke vergelijking te maken, rekenen we beide om naar per-uur (Baseten x60, Modal x3600), en tellen we vervolgens bij het GPU-tarief van Modal de CPU en het geheugen op die Baseten bundelt, tegen Modal's eigen tarieven: $0.04716 per fysiek core-uur (één core = twee vCPU) en $0.007992 per GiB-uur. Vermenigvuldigingsfactoren voor regio-binding en non-preemptible zijn niet meegenomen; het toevoegen daarvan maakt Modal nog duurder. Bronnen: baseten.co/pricing, docs.baseten.co/deployment/resources, modal.com/pricing.

Gepubliceerde basistarieven

Aangepast — Modal afgestemd op Baseten's gebundelde CPU en RAM

Voor L40S en A100 40GB is er geen Baseten-SKU om mee te vergelijken.

De conclusie: “Modal is 40% goedkoper op H100” valt terug naar ongeveer 19% zodra je vergelijkbare CPU en geheugen meerekent, is vrijwel gelijk op A100 80GB, en draait om op kleine GPU's, waar Baseten 9-22% goedkoper is. Voeg daar regio-binding of de 3x non-preemptible vermenigvuldigingsfactor aan toe, en Baseten is definitief voordeliger bij elke gegarandeerde workload.

Een aandachtspunt bij het benchmarken: Modal's basis-instelling gpu="A100" kan stilzwijgend worden geupgraded naar 80GB, en gpu="H100" kan uitkomen op een H200. Zet dit vast met gpu="H100!".

Waar teams tegen problemen aanlopen

1. De tarievenkaart is niet de uiteindelijke rekening. Teams schatten een budget op basis van een GPU-uurtarief, en krijgen vervolgens te maken met CPU, geheugen, opslagvolumes, vermenigvuldigingsfactoren voor regio's en een 3x tarief voor sandboxes. Baseten's gebundelde model is eenvoudiger te voorspellen; Modal's gespecificeerde model sluit nauwer aan op het werkelijke verbruik. Geen van beide is vergelijkbaar zonder bovenstaande berekening.

2. Regioselectie betekent geen data residency. Modal kan een container vastzetten op eu-west, maar slaat je logs, duurzame opslag en elke payload boven 2 MiB nog steeds op in de VS. Als een toezichthouder hiernaar vraagt, is de containerregio niet het afdoende antwoord.

3. De model server is slechts een onderdeel van het systeem. Je hebt ook te maken met commerciële model-API's, authenticatie, kostentoewijzing, rate limits, guardrails en een audit trail. Geen van beide platformen biedt die laag volledig, waardoor het inrichten daarvan alsnog bij jouw team ligt.

Inference uitvoeren op meer dan één platform?

Plaats een gateway voor self-hosted modellen en commerciële API's zodat kosten, latency en toegangsbeheer op één plek worden geregeld.

Start gratis

De positie van TrueFoundry: een andere vraag

Een helder antwoord in plaats van een gezochte vergelijking tussen drie partijen. Baseten en Modal zijn hosted inference-clouds. TrueFoundry draait binnen je eigen cloudaccount. Een ander type koper, een ander probleem.

Zij beantwoorden de vraag: “hoe kan ik dit model serveren zonder zelf GPU's te beheren.” TrueFoundry beantwoordt de vraag: “we hebben al GPU-capaciteit, aangegane verplichtingen of te maken met regelgeving, en we hebben een platform nodig op onze eigen infrastructuur.” Als de eerste vraag op jou van toepassing is, kies dan een van hen — Baseten's self-hosted modus komt daar het dichtst bij in de buurt.

TrueFoundry wordt uitgerold als SaaS over meer dan 12 regio's op drie clouds, of self-hosted in je VPC via Helm en OpenTofu/Terraform, op-premises, of air-gapped. Bij self-hosted blijft al het LLM-verkeer binnen je eigen infrastructuur en bevindt TrueFoundry zich niet in het actieve datapad. Serving ondersteunt vLLM, SGLang, Triton, TorchServe, MLflow en LitServe, plus een model registry, autoscaling op CPU, RPS of cron, en fractionele GPU's via time-slicing en MIG — wat van belang is wanneer je eigenaar bent van de hardware en een volledige H100 voor een klein model verspilling is.

De andere helft is de AI Gateway, waar self-hosted en hosted inference niet langer gescheiden uitdagingen zijn. Het ontsluit 1.000+ LLM's achter één OpenAI-compatibele API, voegt ongeveer 3-4 ms latency toe en verwerkt 350+ RPS op 1 vCPU. Hierdoor zitten je Baseten-endpoint, je Modal-endpoint en je OpenAI-sleutel achter één interface met gedeelde kostentoewijzing, rate limits en audit trail. Auto Routing is de knop voor kostenbeheersing: over 550 prompts verlaagde het routeren op basis van complexiteit de kosten met 69% met behoud van 98% van de kwaliteit, waarbij de gemiddelde latency daalde van 7,6s naar 4,0s.

Eerlijke beperking: TrueFoundry is geen serverless GPU-marktplaats — je brengt je eigen capaciteit mee. Als je geen GPU's hebt en deze ook niet wilt aanschaffen, kies dan voor Baseten of Modal.

Heb je al cloud-verplichtingen of eigen GPU's?

Draai modellen en routeer commerciële API's vanuit één control plane in je eigen account.

Start gratis

Directe vergelijking

Gerelateerde artikelen

• Model Deployment Tools — het bredere landschap
• Multi-Cloud GPU Orchestration
• Total Cost of Ownership for GenAI Infrastructure
• Scaling to Zero in Kubernetes
• What Is an AI Control Plane?

Conclusie

Baseten en Modal zijn beide sterke oplossingen. De vergelijking ontloopt elkaar nauwelijks op het punt waar de meeste mensen als eerste naar kijken — de prijs — maar verschilt aanzienlijk op de punten die bepalend zijn voor de uiteindelijke selectie.

Als de workload in je eigen VPC moet draaien, of als je verplichtingen hebt rondom PHI, of als je TensorRT-LLM wilt gebruiken zonder zelf de engine te beheren, of wanneer je gebruikmaakt van kleine, regiogebonden GPU's, dan is Baseten het juiste antwoord. Als je naast inference ook behoefte hebt aan sandboxes, batch-verwerking en notebooks, of wanneer Python-ergonomie de hoogste prioriteit heeft, kies dan voor Modal.

Wat wij niet zouden aanraden, is een keuze maken op basis van enkel het gecommuniceerde GPU-uurtarief. Dat is tussen deze twee partijen niet direct vergelijkbaar. Na een juiste correctie verandert een schijnbaar voordeel van 40% naar 19%, naar een gelijke stand, of slaat het door naar de andere aanbieder.

Ligt de harde randvoorwaarde bij het feit dat de workload binnen de infrastructuur moet blijven die je al bezit en betaalt, dan is geen van beide hosted platformen het antwoord. Dat is een vraagstuk op het gebied van een control plane, en dat is waar wij de oplossing voor bouwen.

Start gratis met TrueFoundry