Baseten vs Modal: Preços, Cold Starts e o que a tabela de tarifas esconde

Ambas são plataformas de GPU serverless, ambas escalam para zero por padrão e ambas executam tráfego de produção para empresas que você conhece. É uma disputa justa, mas elas têm naturezas diferentes. A Baseten construiu uma plataforma de servir modelos e a expandiu. A Modal construiu uma plataforma de computação geral onde a inferência é apenas um de seis produtos. Isso fica evidente no SDK, no que é contabilizado na tabela de preços e na possibilidade de executar em sua própria conta.

O ponto mais útil abaixo é a metodologia de precificação, porque as taxas horárias de GPU publicadas são incomparáveis entre as duas, e a margem de erro é grande o suficiente para mudar uma decisão. Dados verificados em 25 de setembro de 2026.

Baseten: visão geral

A Baseten oferece inferência em produção para modelos open-source, personalizados e ajustados (fine-tuned), por meio de Implantações Dedicadas, APIs de Modelo por token e Treinamento (preços).

Fundada em 2019 por Tuhin Srivastava (CEO), Amir Haghighat (CTO), Phil Howes e Pankaj Gupta. O financiamento passou pelas Séries B, C, D e uma Série E de US$ 300 milhões a US$ 5 bilhões, chegando a uma Série F de US$ 1,5 bilhão com valuation de US$ 13 bilhões em 22 de junho de 2026(anúncio); total captado "mais de US$ 2 bilhões". A receita teria crescido 20x ano a ano; o ARR não foi publicado [VERIFICAR]. Os clientes incluem Cursor, Notion, Harvey, HubSpot, OpenEvidence e Vercel.

Sobre um número que você pode ter visto: reportagens da imprensa no final de setembro de 2026 (Axios 22 de set, Bloomberg 23 de set) descrevem negociações em torno de uma rodada muito maior, próxima de um valor reportado de US$ 26 bilhões. A Baseten não publicou nada. US$ 13 bilhões é o último valor confirmado e aquele que usamos.

[CAPTURA DE TELA: Baseten — o painel de Implantações Dedicadas mostrando estados de réplicas, configuração de escalonamento automático e percentis de latência para um modelo em tempo real]

• Preços. O plano Basic é $0/mês com pagamento conforme o uso com SOC 2 Tipo II e HIPAA incluídos e sem taxa de plataforma em qualquer nível publicado; os planos Pro e Enterprise são sob consulta, com o Enterprise adicionando SLAs, implantações auto-hospedadas, residência de dados e RBAC avançado. O faturamento é por minuto, sem cobrança por tempo ocioso. Existem créditos gratuitos, valor não divulgado [VERIFICAR]. A Baseten também publica uma tabela de preços por token — GPT OSS 120B a $0,10 de entrada / $0,50 de saída por milhão de tokens.
• Cold starts (inicializações a frio).OBaseten Delivery Network armazena pesos em cache em camadas — NVMe local do nó, um cache de pares no cluster e, em seguida, uma origem espelhada — proporcionando inicializações a frio de 2 a 3 vezes mais rápidas a mais de 2 GB/s para nós H100 e, comercialmente o ponto importante, “a transferência de pesos não consome tempo de GPU faturável”(Post sobre a BDN, 9 de abril de 2026). Não há números de latência em segundos na documentação atual [VERIFICAR]. Blog da Baseten As marcações de “Última atualização” referem-se a datas de edição, não a datas de publicação.
• Implantação e SDK. Truss empacotamento — config.yaml mais um model/model.py opcional com load e predict, ou sua própria imagem Docker — com baseten model push --watch para uma implantação de desenvolvimento com recarregamento ao vivo e baseten model push para uma de produção imutável. A concorrência é de dois níveis — concurrency_target para o escalonador automático, predict_concurrency dentro do contêiner — e há suporte para vários nós com InfiniBand.
• Auto-hospedado e multicloud — o diferencial mais claro. Baseten Cloud; Auto-hospedado, plano de carga de trabalho em sua VPC, onde “as solicitações de inferência são roteadas diretamente para seu plano de carga de trabalho sem passar pela infraestrutura da Baseten”; e Híbrido, com transbordamento (spillover). Acima disso, há o gerenciamento de capacidade multicloud, comercializado como “mais de 20 nuvens como um único pool de GPU”, com failover entre regiões.
• Observabilidade e conformidade. Percentis de latência, estados de réplicas e métricas de GPU, além de métricas de vLLM e SGLang nativas do motor detectadas automaticamente sem necessidade de configuração; Prometheus, OTLP e rastreamento OTel. SOC 2 Tipo II, HIPAA, GDPR, com retenção de dados zero por padrão para inferência síncrona. ISO 27001 [VERIFICAR]; preços de saída (egress) não encontrados [VERIFICAR].

A Baseten também adquiriu a Blaxel, uma empresa de infraestrutura de microVM e agent-sandbox, anunciou 10 de setembro de 2026, termos não divulgados (anúncio) — um movimento direto para o território das Sandboxes da Modal, com duas semanas de existência e nada lançado para avaliação ainda.

Genuinamente melhor para: compradores em setores regulados que precisam de inferência em sua própria VPC, onde a Modal não tem equivalente; qualquer pessoa que lide com PHI, já que a conformidade com HIPAA está disponível no plano gratuito; equipes que desejam otimização de nível TensorRT-LLM sem precisar desenvolvê-la; e cargas de trabalho com GPUs pequenas ou restritas a regiões específicas.

Modal: visão geral

A Modal se autodenomina “uma nuvem criada para IA. Não uma nuvem de GPU de propósito único, mas uma plataforma com as primitivas certas”(Post da Série C). Produtos: Inferência, Sandboxes, Treinamento, Notebooks, Batch, Plataforma Principal. Essa lista é o argumento — a inferência é apenas um item.

Fundada em 2021 por Erik Bernhardsson e Akshat Bubna; o ano de fundação vem do TechCrunch, não de uma página da Modal [VERIFICAR]. A equipe construiu seu próprio sistema de arquivos, runtime de contêiner, agendador e construtor de imagens, o que se reflete nos números de cold-start. O financiamento passou por rodadas seed, Série A e uma Série B de US$ 87 milhões com valuation de US$ 1,1 bilhão, chegando a uma Série C de US$ 355 milhões com valuation de US$ 4,65 bilhões em 21 de maio de 2026; total “acima de US$ 466 milhões”. A Modal publica o que a Baseten não publica — “ultrapassando US$ 300 milhões em receita anualizada”, e que “as Sandboxes já representam mais de um terço da nossa receita”Entre nossos clientes estão Cognition, DoorDash, Suno e Ramp.

[CAPTURA DE TELA: Modal — o painel do aplicativo mostrando contagem de containers, utilização de GPU e tempo de inicialização a frio para uma Função implantada]

• Preços. Inicial $0/mês mais computação, $30/mês em computação gratuita,Retenção de logs por 1 diaEquipe $250/mês mais computação, US$ 100/mês em computação gratuita, logs de 30 dias. Enterprise personalizado, adicionando logs de auditoria, SAML SSO, HIPAA e RBAC. O faturamento é por segundo, e aqui está o ponto principal: CPU e memória são cobrados separadamente da GPU — CPU a US$ 0,04716 por hora de núcleo físico, memória a US$ 0,007992/GiB/hora.A CPU e a memória do Sandbox e do Notebook custam 3x a taxa da Function. A fixação de região é 1,15x ampla ou 1,75x restrita; não preemptível é 3x. Sem tabela de preços por token.
• Cold starts. Os containers iniciam em aproximadamente um segundo. Snapshots de memória são o recurso nomeado: snapshots de CPU em disponibilidade geral (GA), Snapshots de GPU Alpha. A documentação da Modal afirma 3 a 10 vezes mais rápido e o blog de engenharia destaca 10x (Parakeet de 20s para 2s). O post da Série C da Modal usou uma frase de "100x" que sua própria documentação e blog de engenharia não sustentam, portanto, 3 a 10x é o número a ser citado. Snapshots de GPU "não aceleram o carregamento de modelos a partir do armazenamento"e"podem até piorá-los, ao adicionar sobrecarga", são geralmente incompatíveis com código multi-GPU e expiram após 7 dias.
• Implantação e SDK. Python baseado em decoradores — @app.function(), @app.cls(), @modal.fastapi_endpoint() — com imagens definidas em Python por encadeamento de métodos em vez de um Dockerfile, e modal run / modal deploy / modal serve para o ciclo de desenvolvimento. Os containers rodam sob gVisor; os SDKs de JS e Go estão em Beta. As regiões são amplas (us, eu, ap) ou específicas (us-west, jp) e estritamente fixas; clusters multi-nó estão em Beta. Se você gosta de escrever infraestrutura como Python, esta é a melhor experiência de desenvolvedor na categoria.
• Sem opção de auto-hospedagem. Sem BYOC, on-prem ou implantação em VPC do cliente: o nível Enterprise não lista nenhum recurso de local de implantação, o cloud= escolhe qual nuvem a Modal agenda, em vez da sua conta, e o llms.txt não apresenta nenhuma ocorrência de BYOC, self-host, on-prem ou VPC. Vale a pena citar o limite de residência: todos os logs, todo o armazenamento durável, payloads de função acima de 2 MiB e todos os payloads assíncronos são armazenados nos Estados Unidos, independentemente da região do container.
• Observabilidade e conformidade. Utilização de GPU, energia, temperatura e memória, com a própria ressalva da Modal de que estes “não pode ser usado para depurar problemas de desempenho diretamente”, além de exportação OTLP para qualquer lugar. SOC 2 Tipo 2 sim. HIPAA qualificado — BAA necessário, Somente para Enterprise, eVolumes v1, Imagens, Snapshots de memória e código do usuário estão fora do escopo do BAA. Entradas e saídas são retidas por até 7 dias. ISO 27001 [VERIFICAR] — não listado.

[CAPTURA DE TELA: Modal — a página de preços mostrando a tabela de GPU ao lado dos itens de linha separados de CPU e memória]

Realmente melhor para: qualquer coisa que não seja um servidor de modelo — sandboxes, código não confiável, ambientes de RL, processamento em lote, notebooks. Ergonomia do Python. Cargas de trabalho com GPUs grandes, não fixas e com picos. Variedade de GPUs, já que L40S, A100 40GB e B300 não possuem equivalente no Baseten. E cold starts com inicialização pesada, dominados por JIT e importações em vez de carregamento de pesos.

Comparação de arquitetura e implantação

A abordagem honesta sobre cold starts: eles resolvem metades diferentes do mesmo problema. O Baseten ataca a entrega de pesos e remove a transferência da contagem de faturamento. O Modal ataca o estado do processo com restauração de snapshot, o que explicitamente não ajuda no carregamento de pesos. Se o seu cold start envolve 140 GB de pesos, a abordagem do Baseten é a relevante; se for importações, JIT e captura de grafo CUDA, a do Modal é a ideal.

Preços de GPU: a tarifa de destaque e a tarifa real

Metodologia. O Baseten publica tarifas por minuto para SKUs de instância all-in — a GPU vem com vCPU e RAM fixas. O Modal publica tarifas por segundo para o Apenas GPU, com CPU e memória cobrados separadamente. Para comparar itens equivalentes, converta ambos para o valor por hora (Baseten x60, Modal x3600) e, em seguida, adicione à tarifa de GPU da Modal a CPU e a memória que a Baseten inclui no pacote, usando as próprias tarifas da Modal: US$ 0,04716 por hora de núcleo físico (um núcleo = dois vCPUs) e US$ 0,007992 por hora de GiB. Multiplicadores de fixação (pinning) e instâncias não preemptíveis estão excluídos; adicioná-los torna a Modal ainda mais cara. Fontes: baseten.co/pricing,docs.baseten.co/deployment/resources,modal.com/pricing.

Tarifas publicadas de destaque

Ajustado — Modal equiparada à CPU e RAM incluídas no pacote da Baseten

L40S e A100 40GB não possuem SKU da Baseten para ajuste.

A conclusão: "A Modal é 40% mais barata na H100" cai para cerca de 19% quando você adquire CPU e memória comparáveis, fica em quase paridade na A100 80GB, einverte-se em GPUs pequenas, onde a Baseten é de 9 a 22% mais barata. Adicione a fixação ou o multiplicador de 3x para instâncias não preemptíveis e a Baseten vence com folga em qualquer carga de trabalho garantida.

Um detalhe para quem faz benchmarks: o gpu="A100" básico da Modal pode ser atualizado silenciosamente para 80GB, e o gpu="H100" pode acabar em uma H200. Fixe isso usando gpu="H100!".

Onde as equipes encontram problemas

1. A tabela de preços não é a fatura. As equipes calculam o orçamento com base no número de GPUs por hora e, em seguida, somam os multiplicadores de CPU, memória, volumes, região e uma taxa de sandbox 3x. O agrupamento da Baseten é mais fácil de prever; a discriminação da Modal é mais fiel ao consumo. Nenhuma das duas é comparável sem o cálculo acima.

2. A seleção de região não é residência de dados. A Modal fixará um contêiner em eu-west e ainda armazenará seus logs, armazenamento durável e qualquer payload acima de 2 MiB nos EUA. Se um órgão regulador estiver perguntando, a região do contêiner não é a resposta.

3. O servidor de modelo é apenas parte do sistema. Você também tem APIs de modelos comerciais, autenticação, atribuição de custos, limites de taxa, guardrails e uma trilha de auditoria. Nenhuma das plataformas é essa camada, e adotar qualquer uma delas ainda deixa essa responsabilidade para você.

Running inference across more than one platform?

Put a gateway in front of self-hosted models and commercial APIs so cost, latency and access control live in one place.

Start free

A posição da TrueFoundry: uma pergunta diferente

Uma resposta direta, em vez de uma disputa forçada entre três opções. Baseten e Modal são nuvens de inferência hospedadas. A TrueFoundry é executada na sua conta de nuvem. Comprador diferente, problema diferente.

Elas respondem à pergunta: "como sirvo este modelo sem operar GPUs?". A TrueFoundry responde: "já temos capacidade de GPU, gastos comprometidos ou um órgão regulador, e precisamos de uma plataforma em nossa própria infraestrutura". Se a primeira pergunta é a sua, compre uma delas — o modo auto-hospedado da Baseten é o que mais se aproxima.

O TrueFoundry pode ser implantado como SaaS em mais de 12 regiões em três nuvens, ou auto-hospedado em sua VPC via Helm e OpenTofu/Terraform, ou on-premise, ou em ambientes isolados (air-gapped). Na versão auto-hospedada, todo o tráfego de LLM permanece dentro da sua infraestrutura e o TrueFoundry não faz parte do caminho de execução. O serviço abrange vLLM, SGLang, Triton, TorchServe, MLflow e LitServe, além de um registro de modelos, escalonamento automático por CPU, RPS ou cron, e GPUs fracionadas via time-slicing e MIG — o que é importante quando você possui o hardware e um H100 inteiro para um modelo pequeno é desperdício.

A outra metade é o Gateway de IA, onde a inferência auto-hospedada e a hospedada deixam de ser problemas separados. Ele centraliza Mais de 1.000 LLMs atrás de uma única API compatível com OpenAI, adicionando aproximadamente 3-4 msde latência e processamais de 350 RPS em 1 vCPU, para que seu endpoint Baseten, seu endpoint Modal e sua chave da OpenAI fiquem atrás de uma única interface com atribuição de custos compartilhada, limites de taxa e trilha de auditoria. O Roteamento Automático é a alavanca de custos: em 550 prompts, o roteamento por complexidade reduziu o custo 69%mantendo98% de qualidade, com a latência média caindo de 7,6s para 4,0s.

Limite honesto: o TrueFoundry não é um marketplace de GPU serverless — você traz a capacidade. Se você não tem GPUs e não deseja adquirir nenhuma, escolha o Baseten ou o Modal.

Already have cloud commitments or your own GPUs?

Run models and route commercial APIs from one control plane inside your account.

Start free

Comparativo direto

Leituras relacionadas

• Ferramentas de implantação de modelos — o cenário mais amplo
• Orquestração de GPU Multi-Cloud
• Custo Total de Propriedade para Infraestrutura de IA Generativa
• Escalonamento para zero no Kubernetes
• O que é um plano de controle de IA?

Conclusão

Baseten e Modal são ambas boas opções. A comparação é acirrada no critério que as pessoas verificam primeiro — preço — mas não é nada próxima nos critérios que realmente definem a contratação.

Se a carga de trabalho precisa ser executada em sua própria VPC, se você lida com PHI, se deseja TensorRT-LLM sem precisar realizar o trabalho de engine, ou se você utiliza GPUs pequenas e fixas, a Baseten é a resposta. Se você precisa de sandboxes, processamento em lote e notebooks junto com a inferência, ou se a ergonomia do Python é o que mais importa, a Modal é a escolha.

O que não faríamos é escolher com base na tarifa de GPU anunciada. Ela não é comparável entre as duas, e ao ajustá-la, uma vantagem aparente de 40% cai para 19%, para paridade ou até mesmo inverte a favor do outro fornecedor.

Se a restrição real é que a carga de trabalho precisa permanecer dentro da infraestrutura que você já possui e paga, nenhuma das plataformas hospedadas é a resposta. Esse é um problema de plano de controle, e é exatamente para isso que construímos nossa solução.

Comece gratuitamente com a TrueFoundry