Qué significa BYOK en una AI Gateway
.png)
Diseñado para la velocidad: ~ 10 ms de latencia, incluso bajo carga
¡Una forma increíblemente rápida de crear, rastrear e implementar sus modelos!
- Gestiona más de 350 RPS en solo 1 vCPU, sin necesidad de ajustes
- Listo para la producción con soporte empresarial completo
BYOK, o trae tu propia clave (bring your own key), significa que mantienes tus propias cuentas con proveedores de modelos como OpenAI, Anthropic y AWS Bedrock, e introduces esas claves de proveedor en la gateway una sola vez. Tus aplicaciones nunca vuelven a tocar las claves de proveedor originales. Se comunican con un único punto de enlace de TrueFoundry AI Gateway utilizando una sola clave de gateway, y la gateway reenvía cada llamada al proveedor correcto con tus credenciales.
Esto es lo opuesto a un modelo de revendedor en el que compras tokens a un intermediario. Con BYOK mantienes tus propios contratos, precios y límites de tasa (rate limits) con los proveedores, y añades una gobernanza centralizada por encima.
Por qué enrutar las claves de proveedor a través de la gateway
Entregar claves de proveedor originales a cada aplicación y notebook es cómo empieza la dispersión de claves (key sprawl). Las claves se filtran en el código, se copian en entornos y se vuelve imposible rotarlas sin romper algo.
- Una clave para los emitiendo llamadas. Las aplicaciones se autentican con una clave de TrueFoundry, no con la clave del proveedor. Como indica la documentación, para acceder a los modelos a través de la gateway utilizas claves API de TrueFoundry, no las claves del proveedor original.
- Rotación centralizada. Las claves de los proveedores residen en un solo lugar. Rótales en la gateway y todas las aplicaciones seguirán funcionando.
- Control de acceso. Tú decides quién puede usar cada cuenta de modelo, con roles de administrador y usuario por cuenta.
- Una sola interfaz. En lugar de gestionar SDKs, puntos de enlace y claves independientes para OpenAI, Anthropic, Bedrock y modelos alojados por ti mismo, las aplicaciones se comunican con un único punto de enlace de gateway y usan una sola clave de gateway.
Añadir tus claves de proveedor: cuentas de modelos
En TrueFoundry, una clave de proveedor reside dentro de una cuenta de modelo (model account). La documentación de inicio rápido describe una cuenta de modelo como una cuenta de un proveedor de modelos, por ejemplo OpenAI, Anthropic o AWS Bedrock. Puedes añadir múltiples cuentas por proveedor, cada una con sus propias claves API, y cada cuenta puede tener múltiples modelos.
Para añadir una, selecciona el proveedor que desees y añade los modelos tras proporcionar la clave API. Puedes añadir múltiples claves del mismo proveedor creando cuentas de modelos independientes, lo cual es útil cuando quieres separar el gasto o los límites de tasa por entorno o equipo.

Una vez enviadas, tus cuentas de modelos y modelos aparecen en la pestaña Modelos. Para añadir más posteriormente, ve a AI Gateway, luego a Modelos, selecciona una cuenta de modelo a la izquierda y haz clic en Añadir modelo en la esquina superior derecha.

Cómo se autentican los emisores de llamadas: claves virtuales
Una vez almacenadas tus claves de proveedor, las aplicaciones nunca las ven. La documentación de control de acceso de la gateway describe dos tipos de tokens que los emisores de llamadas usan en su lugar.
- Personal Access Tokens (PATs) están vinculados a un usuario y se recomiendan para desarrolladores durante el desarrollo.
- Virtual Account Tokens (VATs) están vinculados a una identidad virtual y se recomiendan para aplicaciones en producción. Esta es la clave virtual con la que se despliegan tus servicios.
El acceso se configura a nivel de cuenta de modelo con dos roles. Un Model Account Manager puede modificar ajustes, añadir o eliminar modelos y gestionar permisos de acceso. Un Model Account User puede usar todos los modelos dentro de la cuenta pero no puede cambiar ajustes ni permisos. Los administradores del tenant tienen acceso automáticamente a todos los modelos de la plataforma.
Para llamar a la gateway, necesitas tres cosas de la pestaña Code Snippet del Playground: la URL base de la gateway, una clave API y un ID de modelo. Los usuarios de SaaS apuntan a la URL base de la gateway, se autentican con un PAT o VAT y utilizan el cliente estándar de OpenAI.

from openai import OpenAI
Qué obtienes una vez que las claves residen en la gateway
- Un único punto de enlace compatible con OpenAI para cada proveedor y cada modelo alojado por ti mismo.
- Rotación centralizada de claves sin tocar el código de la aplicación.
- Control de acceso por cuenta con roles de administrador y usuario.
- Observabilidad y políticas centralizadas, ya que cada llamada fluye a través de un solo lugar.
Como dijo un cliente, la gateway eliminó la sobrecarga de gestionar claves, lógica de enrutamiento y observabilidad dispersa, e introducir nuevos modelos se convirtió en una simple configuración.
TrueFoundry AI Gateway ofrece una latencia de entre 3 y 4 ms, gestiona más de 350 RPS en una vCPU, se escala horizontalmente con facilidad y está listo para la producción, mientras que LitellM presenta una latencia alta, tiene dificultades para superar un RPS moderado, carece de escalado integrado y es ideal para cargas de trabajo ligeras o de prototipos.



Controle, implemente y rastree la IA en su propia infraestructura
Blogs recientes
Preguntas frecuentes
What does BYOK mean for an AI gateway?
BYOK means you keep your own provider accounts and keys and plug them into the gateway once. Applications then call the gateway with a single gateway key, and the gateway uses your stored provider keys to reach OpenAI, Anthropic, Bedrock, and others.
Do my applications ever see the provider key?
No. Callers authenticate with TrueFoundry keys, not the original provider keys. You store the provider key in a model account, and applications use a Personal Access Token or a Virtual Account Token instead.
Can I add more than one key for the same provider?
Yes. You can add multiple accounts per provider, each with their own API keys. This lets you separate spend, rate limits, or environments while keeping a single gateway endpoint.
What is a virtual key?
A Virtual Account Token is tied to a virtual identity rather than a person, which makes it the right choice for production applications. It lets a service authenticate to the gateway without embedding a user credential or a raw provider key.









.png)
.png)
.png)








.png)

.png)


.png)

.png)






