O GPT-6.1 Sol já está disponível no TrueFoundry AI Gateway

Built for Speed: ~10ms Latency, Even Under Load
Blazingly fast way to build, track and deploy your models!
- Handles 350+ RPS on just 1 vCPU — no tuning needed
- Production-ready with full enterprise support
O GPT-6.1 Sol já está disponível no TrueFoundry AI Gateway
Uma semana após a chegada do GPT-6 Sol ao catálogo, a OpenAI lançou seu sucessor. GPT-6.1 Sol foi lançado na terça-feira, 29 de setembro, e já está no catálogo de modelos do TrueFoundry AI Gateway com preços, limites de contexto e capacidades preenchidos.
Você o chama pelo mesmo endpoint compatível com OpenAI que usa para todo o resto. Sem novo SDK, sem integração separada, sem esperar por uma atualização do gateway. Altere a string do modelo para gpt-6.1-sol na sua conta OpenAI (openai/gpt-6.1-sol no OpenRouter) e você estará usando o novo modelo.
Experimente o GPT-6.1 Sol no TrueFoundry AI Gateway →
O que foi lançado em 29 de setembro
O GPT-6.1 Sol substitui o GPT-6 Sol pelo mesmo preço, com cache mais barato e os mesmos limites. Os números que importam para um orçamento de produção:
- US$ 2 por milhão de tokens de entrada e US$ 10 por milhão de saída, inalterado em relação ao GPT-6 Sol. As leituras de cache custam US$ 0,10 por milhão, metade dos US$ 0,20 do GPT-6 Sol, e as gravações de cache custam US$ 2,50. A partir de 272 mil tokens, a taxa sobe para US$ 4 de entrada / US$ 15 de saída, com leituras de cache a US$ 0,20 e gravações de cache a US$ 5. Execuções em lote custam metade do preço, $1 / $5. Para agentes que reenviam um prompt de sistema longo ou contexto de base de código a cada turno, a taxa de cache é o número a ser observado.
- Um quinto do preço de tabela do GPT-6 Astra tanto na entrada quanto na saída ($10 / $50 para o Astra).
- Contexto de 1,05M de tokens, saída máxima de 128K, com o raciocínio ativado. O esforço de raciocínio varia de nenhum a baixo, médio, alto e muito alto até o máximo, com médio como padrão.

Nível do Astra, a um quinto do preço
O catálogo coloca o GPT-6 Astra a $10 por milhão de tokens de entrada e $50 por milhão de saída. O GPT-6.1 Sol custa $2 e $10, exatamente um quinto em ambos os lados, e suas leituras de cache a $0,10 são um décimo dos $1 do Astra.
Onde ele se posiciona na escala de preços de setembro
Compare os lançamentos do mês lado a lado: GPT-6 Luna a $0,10 por milhão de tokens de entrada, GPT-6 Sol, GPT-6.1 Sol e Claude Sonnet 5.5 a $2, Claude Opus 5.5 a $4, GPT-6 Astra a $10. O GPT-6.1 Sol ocupa o lugar do GPT-6 Sol na escala pelo mesmo preço, com a menor taxa de leitura de cache nessa faixa de $2.

Esse é o argumento para tratar a escolha do modelo como uma configuração de gateway em vez de código de aplicação. A maior parte do tráfego de produção consiste em um grande número de solicitações fáceis e um pequeno número de solicitações difíceis. Se a maioria fácil for para o Luna, a intermediária para o GPT-6.1 Sol e apenas a parte difícil for para o Astra, a fatura combinada não se parecerá em nada com uma fatura apenas de Astra. Isso só funciona quando a troca é uma alteração de configuração, que é o que o Gateway de IAserve.
Como ativar

Passo 1: Habilite o modelo na sua conta de provedor. No gateway, abra Modelos → sua conta OpenAI → Seleção de Modelos, pesquise por gpt-6.1-sol e marque-o. O preço é exibido diretamente ($2 de entrada / $10 de saída por 1M de tokens) porque vem direto do catálogo. Em seguida, defina Controle de Acesso assim, o modelo é delimitado às equipes e chaves virtuais certas desde o primeiro dia.
OpenAI direto e OpenRouter (openai/gpt-6.1-sol) já estão no catálogo hoje; as entradas do Microsoft Foundry e AWS Bedrock estão chegando.
Não encontrou o modelo na sua lista? + Adicionar Modelo na parte inferior da lista permite adicioná-lo manualmente.
Passo 2: Faça a chamada. Abra o Playground, escolha o modelo e copie o snippet gerado no SDK que você utiliza. A versão Python da OpenAI:
from openai import OpenAI
client = OpenAI(
api_key="<your-truefoundry-api-key>",
base_url="https://gateway.truefoundry.ai", # or your self-hosted gateway URL
)
# Model IDs are <provider-account>/<model>. Swap the string, keep everything else.
r = client.chat.completions.create(
model="openai-main/gpt-6.1-sol",
messages=[{"role": "user", "content": "Summarise this incident in three bullets: ..."}],
extra_headers={"X-TFY-METADATA": '{"team": "platform", "feature": "incident-summary"}'},
)
print(r.choices[0].message.content)
Os IDs de modelo seguem o namespace <your-provider-account>/<model>, portanto openai-main/gpt-6-soleopenai-main/gpt-6.1-sol podem ser trocados em uma única linha. O cabeçalho X-TFY-METADATA marca cada chamada para que os gastos apareçam por equipe ou por funcionalidade na visualização de métricas.
Passo 3 (opcional): Coloque-o atrás de um modelo virtual. Crie um modelo virtuale escolhaAI Gateway. O gateway classifica cada solicitação como simples, média ou complexa e a envia para o destino que você atribuir a esse nível. GPT-6 Luna para simples, GPT-6.1 Sol para média, GPT-6 Astra para complexa, com GPT-6 Sol como fallback enquanto os limites de taxa da semana de lançamento se estabilizam, é um mapeamento inicial sensato. Em nossos benchmarks, esse tipo de roteamento reduziu os custos em 50–70% mantendo cerca de 98% da qualidade. Sua aplicação chama um único nome de modelo durante todo o processo.
Antes de mover o tráfego de produção
- Verifique prompts longos. A partir de 272 mil tokens, o GPT-6.1 Sol é cobrado a US$ 4 de entrada / US$ 15 de saída por milhão, com leituras de cache a US$ 0,20, o mesmo aumento de entrada e saída do GPT-6 Sol. Solicitações em lote são executadas pela metade da taxa padrão (US$ 1 / US$ 5).
- Os preços são públicos e versionados. Todas as taxas mencionadas nesta publicação vêm do catálogo de código aberto em truefoundry.com/models, o mesmo utilizado pelo rastreamento de custos.
- Orçamentos, limites de taxa e guardrails já estão em vigor. Este é um modelo de catálogo comum, portanto, qualquer política por equipe que você tenha configurado o cobre desde a primeira solicitação.
- Microsoft Foundry e AWS Bedrock as entradas seguirão no catálogo à medida que forem integradas.
Comece hoje
O GPT-6.1 Sol é o modelo ideal quando uma solicitação exige mais do que o Luna, mas o preço do Astra é difícil de justificar, e quando agentes reenviam contextos longos que a taxa de cache de US$ 0,10 torna barata. Executá-lo através do TrueFoundry significa que a decisão sobre quais solicitações se encaixam nisso fica na configuração do gateway, onde você pode alterá-la sem precisar de um novo deploy.
Experimente o GPT-6.1 Sol no TrueFoundry AI Gateway →
Leituras relacionadas
- Preços do GPT-6 Astra: onde o cache ainda compensa a US$ 10 de entrada – o topo da escala de preços
- Introdução ao Roteamento Automático – como funciona o roteamento baseado em complexidade
- Roteador de LLM: As três coisas que esse nome realmente significa
- O que é um gateway de LLM? – o guia arquitetural
TrueFoundry AI Gateway delivers ~3–4 ms latency, handles 350+ RPS on 1 vCPU, scales horizontally with ease, and is production-ready, while LiteLLM suffers from high latency, struggles beyond moderate RPS, lacks built-in scaling, and is best for light or prototype workloads.














%20(28).webp)



.webp)
.webp)
.png)

.png)
.png)
.png)
.png)
.png)
.webp)
.webp)





