Baseten vs Modal: precios, cold starts y lo que oculta la tarifa pública

Ambas son plataformas de GPU serverless, ambas escalan a cero por defecto y ambas gestionan tráfico en producción para empresas de renombre. Es una comparativa justa, pero no tienen la misma estructura. Baseten construyó una plataforma de servicio de modelos y la fue ampliando. Modal construyó una plataforma de cómputo general en la que la inferencia es solo uno de seis productos. Esto se refleja en el SDK, en lo que contabiliza la tarifa pública y en la posibilidad de ejecutarla en tu propia cuenta.

El aspecto más útil a continuación es la metodología de precios, ya que las tarifas publicadas de GPU por hora no son comparables entre ambas plataformas y el margen de error es lo suficientemente amplio como para cambiar una decisión. Cifras verificadas el 25 de septiembre de 2026.

Baseten: descripción general

Baseten ofrece inferencia en producción para modelos de código abierto, personalizados y ajustados (fine-tuned), a través de despliegues dedicados (Dedicated Deployments), API de modelos por token y entrenamiento (consulte los precios).

Fundada en 2019 por Tuhin Srivastava (CEO), Amir Haghighat (CTO), Phil Howes y Pankaj Gupta. La financiación pasó por las series B, C, D y una Serie E de 300 M$ a una valoración de 5000 M$, hasta alcanzar una Serie F de 1500 M$ a una valoración de 13 000 M$ el 22 de junio de 2026 (anuncio); el total recaudado supera los "2000 M$". Según informes, los ingresos se multiplicaron por 20 año tras año; los ingresos anuales recurrentes (ARR) no se han publicado [VERIFY]. Entre sus clientes se encuentran Cursor, Notion, Harvey, HubSpot, OpenEvidence y Vercel.

Respecto a una cifra que quizás haya visto: los informes de prensa de finales de septiembre de 2026 (Axios 22 sep, Bloomberg 23 sep) describen conversaciones sobre una ronda mucho mayor cercana a unos 26 000 M$. Baseten no ha publicado nada al respecto. 13 000 M$ es la última cifra confirmada y la que utilizamos aquí.

[SCREENSHOT: Baseten — the Dedicated Deployments dashboard showing replica states, autoscaling config and latency percentiles for a live model]

• Precios. El plan Basic es de 0 $/mes con pago por uso, incluye cumplimiento SOC 2 Type II y HIPAA, y sin cuotas de plataforma en ningún nivel publicado; Pro y Enterprise se cotizan bajo presupuesto, añadiendo Enterprise acuerdos de nivel de servicio (SLA), despliegues autohospedados, residencia de datos y control de acceso basado en roles (RBAC) avanzado. La facturación es por minuto y no se cobra por tiempo de inactividad. Existen créditos gratuitos, pero la cantidad no se ha publicado [VERIFY]. Baseten también publica una tarifa por token: GPT OSS 120B a 0,10 $ de entrada / 0,50 $ de salida por millón de tokens.
• Cold starts. La Baseten Delivery Network almacena los pesos en caché por niveles: NVMe local del nodo, una caché entre pares en el clúster y un origen reflejado. Esto proporciona arranques en frío de 2 a 3 veces más rápidos a más de 2 GB/s en nodos H100 y, lo que es comercialmente más importante, «la transferencia de pesos no consume tiempo facturable de GPU» (publicación de BDN, 9 de abril de 2026). No figura ninguna cifra de latencia en segundos en la documentación actual [VERIFY]. Las etiquetas de «Última actualización» en el blog de Baseten indican fechas de edición, no de publicación.
• Despliegue y SDK. Empaquetado con Truss —config.yaml más un archivo opcional model/model.py con load y predict, o tu propia imagen de Docker— con baseten model push --watch para un despliegue de desarrollo con recarga en vivo y baseten model push para uno inmutable en producción. La concurrencia se gestiona en dos niveles —concurrency_target para el autoescalador y predict_concurrency dentro del contenedor— y admite arquitecturas multinodo con InfiniBand.
• Autohospedado y multicloud: el diferenciador más claro. Baseten Cloud; Self-hosted, con el plano de carga de trabajo en tu propia VPC, donde «las solicitudes de inferencia se enrutan directamente a tu plano de carga de trabajo sin pasar por la infraestructura de Baseten»; e Híbrido, con capacidad de desbordamiento (spillover). Por encima de esto se sitúa la gestión de capacidad multicloud, comercializada como «más de 20 clouds como un único pool de GPU», con conmutación por error entre regiones.
• Observabilidad y cumplimiento. Percentiles de latencia, estados de réplicas y métricas de GPU, además de métricas nativas del motor vLLM y SGLang detectadas automáticamente sin configuración; Prometheus, OTLP y trazado OTel. Cumplimiento de SOC 2 Type II, HIPAA y GDPR, con retención de datos cero por defecto para inferencia sincrónica. Certificación ISO 27001 [VERIFY]; precios de salida de datos (egress) no encontrados [VERIFY].

Baseten también adquirió Blaxel, una empresa de infraestructura de microVM y entornos de aislamiento para agentes, según se anunció el 10 de septiembre de 2026 (términos no revelados, anuncio): una entrada directa en el terreno de los Sandboxes de Modal, tan reciente que aún no hay productos desplegados para evaluar.

Objetivamente mejor para: compradores en sectores regulados que necesitan inferencia dentro de su propia VPC (donde Modal no ofrece equivalente); cualquier entidad que gestione PHI, ya que HIPAA se incluye desde el nivel gratuito; equipos que buscan optimización de nivel TensorRT-LLM sin necesidad de construirla; y cargas de trabajo fijadas a una región específica o con GPU pequeñas.

Modal: descripción general

Modal se define a sí misma como «un cloud construido para la IA. No un cloud de GPU con un solo propósito, sino una plataforma con las primitivas adecuadas» (publicación de la Serie C). Productos: Inference, Sandboxes, Training, Notebooks, Batch y Core Platform. Esta lista respalda su propuesta: la inferencia es solo un elemento más.

Fundada en 2021 por Erik Bernhardsson y Akshat Bubna (el año de fundación procede de TechCrunch, no de la página de Modal [VERIFY]). El equipo desarrolló su propio sistema de archivos, runtime de contenedores, programador (scheduler) y generador de imágenes, lo que se refleja en sus cifras de arranque en frío. La financiación pasó por una fase semilla, Serie A y una Serie B de 87 M$ a 1100 M$, hasta alcanzar una Serie C de 355 M$ a una valoración posterior de 4650 M$ anunciada el 21 de mayo de 2026; el total supera los «466 M$». Modal hace público lo que Baseten oculta: «superando los 300 millones de dólares en ingresos anualizados» y que «los Sandboxes representan ya más de un tercio de nuestros ingresos». Entre sus clientes se encuentran Cognition, DoorDash, Suno y Ramp.

[SCREENSHOT: Modal — the app dashboard showing container counts, GPU utilisation and cold-start timing for a deployed Function]

• Precios. Starter 0 $/mes más cómputo, 30 $/mes en cómputo gratuito y retención de registros de 1 día. Team 250 $/mes más cómputo, 100 $/mes en cómputo gratuito y registros de 30 días. Enterprise ofrece presupuesto personalizado, añadiendo registros de auditoría, SAML SSO, HIPAA y RBAC. La facturación es por segundo, y aquí está el punto crucial: la CPU y la memoria se facturan por separado de la GPU —la CPU a 0,04716 $ por hora de núcleo físico y la memoria a 0,007992 $/GiB/hora. La CPU y la memoria en Sandboxes y Notebooks cuestan el triple que la tarifa de Function. La vinculación regional cuesta 1,15x en selección amplia o 1,75x en selección estrecha; las instancias no interrumpibles (non-preemptible) se multiplican por 3x. No dispone de tarifa pública por token.
• Cold starts. Los contenedores se inician aproximadamente en un segundo. Memory Snapshots es su función destacada: snapshots de CPU en GA y snapshots de GPU en versión Alpha. La documentación de Modal indica arranques de 3 a 10 veces más rápidos y su blog de ingeniería destaca un factor de 10x (Parakeet de 20 s a 2 s). La publicación de la Serie C de Modal utilizó la cifra de «100x», la cual no está respaldada por su propia documentación ni por su blog de ingeniería, por lo que de 3x a 10x es la cifra correcta a citar. Los snapshots de GPU «no aceleran la carga de modelos desde el almacenamiento» e «incluso pueden empeorarla al añadir sobrecostes»; además, suelen ser incompatibles con código multi-GPU y caducan tras 7 días.
• Despliegue y SDK. Desarrollado en Python mediante decoradores —@app.function(), @app.cls(), @modal.fastapi_endpoint()— con imágenes definidas en Python mediante encadenamiento de métodos en lugar de un Dockerfile, y utilizando modal run / modal deploy / modal serve para el ciclo de desarrollo. Los contenedores se ejecutan bajo gVisor; los SDK de JS y Go están en fase Beta. Las regiones son amplias (us, eu, ap) o estrechas (us-west, jp) y quedan estrictamente vinculadas; los clústeres multinodo están en fase Beta. Si prefiere definir la infraestructura como código en Python, esta es la experiencia de desarrollador más cuidada de la categoría.
• Sin opción autohospedada. No permite BYOC (trae tu propio cloud), despliegues en local (on-premise) ni en la VPC del cliente: el nivel Enterprise no incluye funciones de ubicación de despliegue, la opción cloud= solo selecciona en qué cloud programa Modal en lugar de usar su propia cuenta, y el archivo llms.txt no contiene ninguna mención a BYOC, self-host, on-prem o VPC. Vale la pena citar su límite de residencia: todos los registros, todo el almacenamiento duradero, las cargas útiles de Function que superen los 2 MiB y todas las cargas útiles asincrónicas se almacenan en Estados Unidos independientemente de la región del contenedor.
• Observability y cumplimiento. Métricas de utilización de GPU, consumo energético, temperatura y memoria, con la advertencia propia de Modal de que estas «no se pueden utilizar directamente para depurar problemas de rendimiento», además de exportación OTLP a cualquier destino. Cuenta con certificación SOC 2 Type 2. HIPAA está sujeto a condiciones: requiere BAA, es exclusivo para Enterprise y los Volúmenes v1, las imágenes, los Memory Snapshots y el código de usuario quedan fuera del alcance del BAA. Las entradas y salidas se conservan hasta 7 días. Certificación ISO 27001 [VERIFY] (no figura en la lista).

[SCREENSHOT: Modal — the pricing page showing the GPU table alongside the separate CPU and memory line items]

Objetivamente mejor para: cualquier proceso que no sea un servidor de modelos: entornos de aislamiento (sandboxes), código no confiable, entornos de aprendizaje por refuerzo (RL), lotes (batch) y notebooks. Ergonomía en Python. Cargas de trabajo con GPU de gran tamaño, no vinculadas a región y con picos de uso. Variedad de GPU, dado que L40S, A100 de 40 GB y B300 no tienen equivalente en Baseten. Y cold starts prolongados por inicializaciones pesadas dominadas por JIT e importaciones en lugar de la carga de pesos.

Comparativa de arquitectura y despliegue

El análisis honesto sobre los arranques en frío: resuelven dos mitades distintas del mismo problema. Baseten aborda la entrega de pesos y excluye la transferencia del tiempo facturable. Modal aborda el estado del proceso mediante la restauración de snapshots, lo cual no acelera la carga de pesos. Si tu arranque en frío implica cargar 140 GB de pesos, el enfoque de Baseten es el adecuado; si está dominado por importaciones, JIT y captura de grafos CUDA, el de Modal resulta más efectivo.

Precios de GPU: la tarifa pública frente a la tarifa real

Metodología. Baseten publica tarifas por minuto para SKU de instancias integradas (la GPU incluye vCPU y RAM fijas). Modal publica tarifas por segundo exclusivamente para la GPU, facturando la CPU y la memoria por separado. Para realizar una comparativa equivalente, convertimos ambas tarifas a coste por hora (Baseten x60, Modal x3600) y añadimos a la tarifa de GPU de Modal la CPU y memoria que Baseten incluye en sus paquetes, aplicando las tarifas propias de Modal: 0,04716 $ por hora de núcleo físico (un núcleo equivale a dos vCPU) y 0,007992 $ por GiB-hora. Se excluyen los multiplicadores por vinculación a región e instancias no interrumpibles; al incluirlos, Modal resulta aún más costoso. Fuentes: baseten.co/pricing, docs.baseten.co/deployment/resources, modal.com/pricing.

Tarifas públicas anunciadas

Tarifas ajustadas: Modal equiparado a la CPU y RAM integradas de Baseten

Las GPU L40S y A100 de 40 GB no disponen de un SKU equivalente en Baseten con el que realizar el ajuste.

Conclusión: la afirmación de que «Modal es un 40 % más barato en H100» se reduce a aproximadamente un 19 % una vez que se añade la CPU y la memoria equivalentes; se sitúa en casi la paridad en la A100 de 80 GB y se invierte en GPU pequeñas, donde Baseten resulta entre un 9 % y un 22 % más económico. Si se añade la vinculación a región o el multiplicador de 3x por instancias no interrumpibles, Baseten resulta más ventajoso en cualquier carga de trabajo con recursos garantizados.

Un detalle importante para quienes realizan pruebas de rendimiento: la configuración básica gpu="A100" en Modal puede actualizarse automáticamente a 80 GB sin aviso, y gpu="H100" puede asignarse en una H200. Fije la tarjeta de forma estricta mediante gpu="H100!".

Puntos de conflicto habituales para los equipos

1. La tarifa publicada no refleja la factura final. Los equipos suelen estimar el presupuesto basándose únicamente en el coste por hora de la GPU, para luego encontrarse con cargos adicionales de CPU, memoria, volúmenes, multiplicadores de región y una tarifa triple para sandboxes. El modelo integrado de Baseten facilita la previsión presupuestaria, mientras que el desglose detallado de Modal refleja con mayor precisión el consumo real. Ninguno de los dos se puede comparar directamente sin realizar el cálculo expuesto anteriormente.

2. La selección de región no garantiza la residencia de datos. Modal puede vincular un contenedor a eu-west y, aun así, almacenar los registros, el almacenamiento duradero y cualquier carga útil superior a 2 MiB en EE. UU. Si debe responder ante un organismo regulador, la región del contenedor no es suficiente.

3. El servidor de modelos es solo una parte del sistema. Una arquitectura completa también requiere gestionar API de modelos comerciales, autenticación, atribución de costes, límites de tasa (rate limits), barreras de protección (guardrails) y registros de auditoría. Ninguna de estas dos plataformas cubre esa capa de forma integral, por lo que su implementación sigue dependiendo de su equipo.

¿Ejecutas inferencia en más de una plataforma?

Implementa un gateway frente a tus modelos autohospedados y API comerciales para centralizar el control de costes, latencia y accesos en un solo lugar.

Empieza gratis

La posición de TrueFoundry: un enfoque diferente

Presentamos una perspectiva directa en lugar de forzar una comparativa a tres bandas. Baseten y Modal son clouds de inferencia hospedados. TrueFoundry se ejecuta directamente en tu propia cuenta de cloud. Está dirigido a un perfil de comprador diferente y resuelve un problema distinto.

Baseten y Modal responden a la pregunta: «¿cómo puedo servir este modelo sin gestionar la infraestructura de GPU?». TrueFoundry responde a: «ya disponemos de capacidad de GPU, compromisos de gasto (committed spend) o exigencias regulatorias, y necesitamos una plataforma sobre nuestra propia infraestructura». Si tu necesidad es la primera, elige una de ellas; la modalidad autohospedada de Baseten es el punto de coincidencia más cercano.

TrueFoundry se despliega como SaaS en más de 12 regiones a través de tres proveedores de cloud, o de forma autohospedada dentro de tu VPC mediante Helm y OpenTofu/Terraform, en instalaciones locales (on-premise) o en entornos aislados (air-gapped). En la modalidad autohospedada, todo el tráfico de los LLM permanece dentro de tu infraestructura y TrueFoundry no se sitúa en la ruta de transmisión en vivo. El servicio de modelos admite vLLM, SGLang, Triton, TorchServe, MLflow y LitServe, además de un registro de modelos, autoescalado por CPU, RPS o programación cron, junto con fraccionamiento de GPU mediante multiprocesamiento espacio-temporal (time-slicing) y MIG; esto resulta crítico cuando se dispone de hardware propio y asignar una H100 completa a un modelo pequeño supone un desperdicio de recursos.

El otro componente fundamental es el AI Gateway, donde la inferencia autohospedada y la hospedada dejan de ser problemas independientes. Actúa como fachada para más de 1000 LLM bajo una única API compatible con OpenAI, añadiendo solo entre 3 y 4 ms de latencia y gestionando más de 350 RPS en 1 vCPU. De este modo, tu endpoint de Baseten, tu endpoint de Modal y tu clave de OpenAI se gestionan desde una sola interfaz con atribución de costes compartida, límites de tasa y registro de auditoría. El enrutamiento automático (Auto Routing) permite optimizar los costes: en una prueba con 550 prompts, el enrutamiento por complejidad redujo el gasto un 69 % manteniendo el 98 % de la calidad, y reduciendo la latencia media de 7,6 s a 4,0 s.

Una aclaración transparente: TrueFoundry no es un marketplace de GPU serverless; la capacidad la aporta el cliente. Si no dispones de GPU ni deseas gestionarlas, la opción adecuada es Baseten o Modal.

¿Ya cuentas con compromisos de gasto en cloud o GPU propias?

Ejecuta modelos y enruta API comerciales desde un único plano de control dentro de tu cuenta.

Empieza gratis

Comparativa directa

Lecturas relacionadas

• Herramientas de despliegue de modelos: el panorama general
• Orquestación de GPU multicloud
• Coste total de propiedad (TCO) para infraestructura de GenAI
• Escalado a cero en Kubernetes
• ¿Qué es un plano de control de IA?

Conclusión

Tanto Baseten como Modal son excelentes soluciones. La comparativa es ajustada en el aspecto que suele evaluarse en primer lugar —el precio—, pero muestra diferencias claras en los factores clave que determinan la adquisición corporativa.

Si la carga de trabajo debe ejecutarse dentro de tu propia VPC, si gestionas datos con normativa PHI, si necesitas optimización TensorRT-LLM sin asumir el desarrollo del motor, o si utilizas GPU pequeñas y vinculadas a región, Baseten es la opción adecuada. Si requieres entornos de aislamiento (sandboxes), procesamiento por lotes (batch) y notebooks junto con la inferencia, o si la ergonomía en Python es tu prioridad principal, la elección correcta es Modal.

Nuestra recomendación es no tomar la decisión basándose únicamente en la tarifa pública de la GPU. Las tarifas no son comparables directamente entre ambas plataformas; al realizar el ajuste adecuado, la ventaja teórica del 40 % se reduce al 19 %, llega a la paridad o se invierte a favor del otro proveedor.

Si el requisito fundamental es que la carga de trabajo permanezca en la infraestructura que ya posees y financias, ninguna de las plataformas hospedadas resuelve el problema. Se trata de un desafío de plano de control, y ese es precisamente el propósito de la plataforma que desarrollamos.

Empieza gratis con TrueFoundry