Integración del cursor con Truefoundry

Diseñado para la velocidad: ~ 10 ms de latencia, incluso bajo carga
¡Una forma increíblemente rápida de crear, rastrear e implementar sus modelos!
- Gestiona más de 350 RPS en solo 1 vCPU, sin necesidad de ajustes
- Listo para la producción con soporte empresarial completo
Las herramientas de desarrollo asistidas por IA, como Cursor, aceleran la ingeniería de software al integrar modelos de lenguaje grande (LLM) directamente en el entorno de codificación. Si bien estas herramientas mejoran significativamente la productividad de los desarrolladores, también presentan desafíos operativos para las organizaciones.
Esta guía describe una solución estratégica: integrar el editor Cursor con el Puerta de enlace de IA TrueFoundry. Esta integración proporciona un proxy centralizado para todas las solicitudes de LLM, lo que permite una supervisión integral, una seguridad sólida y un control preciso de los costos sin interrumpir los flujos de trabajo de los desarrolladores.
Principales beneficios de integrar Cursor con TrueFoundry
La integración de Cursor con el TrueFoundry AI Gateway aborda los principales desafíos operativos y de seguridad, transformándolo en una herramienta empresarial segura y administrable.
- Administración centralizada de claves: Elimine los riesgos de seguridad asociados a las claves de API individuales. Todos los desarrolladores utilizan un único punto final de puerta de enlace administrado, que almacena y rota de forma segura las claves de los proveedores, lo que refuerza significativamente la postura de seguridad de su organización.
- Asignación y supervisión unificadas de costos: Obtenga una visibilidad completa de los gastos de desarrollo de IA de su organización. La pasarela rastrea cada solicitud y cada token, lo que le permite asignar los costos a usuarios, equipos o proyectos específicos con gran precisión.
- Flexibilidad del LLM e independencia del proveedor: Vaya más allá de las ofertas de modelos predeterminados. El AI Gateway te permite dirigir las solicitudes de Cursor a cualquier LLM, incluidos los modelos patentados de proveedores como Anthropic, los modelos de código abierto alojados en TrueFoundry o los modelos disponibles a través de servicios como Amazon Bedrock y Google Vertex AI.
Configurar la configuración del equilibrio de carga
Antes de configurar Cursor, cree una configuración de equilibrio de carga para dirigir sus solicitudes a proveedores de modelos específicos. Esto garantiza la compatibilidad con el manejo interno del modelo de Cursor. Cree una configuración de equilibrio de carga como la siguiente:
name: cursor-load-balancing-config
type: gateway-load-balancing-config
rules:
- id: cursor-gpt4o-routing
type: weight-based-routing
when:
models:
- gpt-4o
load_balance_targets:
- target: openai-main/gpt-4o
weight: 100Esta configuración garantiza que cuando utilice gpt-4o en Cursor, sus solicitudes se dirijan correctamente a los nombres de los modelos de destino a través de TrueFoundry Gateway.
Obtenga la configuración de TrueFoundry Gateway
Antes de configurar Cursor, reúna los detalles de su TrueFoundry Gateway:
- Navega hasta AI Gateway Playground: Ve a tu patio de juegos de TrueFoundry AI Gateway
- Acceder al fragmento de código unificado: Usa el fragmento de código unificado
- Copie la URL base y el nombre del modelo: Obtendrá la URL base y el nombre del modelo del fragmento de código unificado (asegúrese de usar el mismo nombre de modelo tal como está escrito)

Configurar el cursor con TrueFoundry Gateway
- Abrir configuración del cursor: Abrir configuración del cursor
- Navegue a la sección de modelos: Busque la sección Modelos > API
- Claves de API de OpenAI: Su clave de API es Token de acceso personal (PAT) generado en los requisitos previos, y la URL base es la URL unificada obtenida en el paso 2
Configurar los ajustes de TrueFoundry:
- URL base: Introduzca la URL de TrueFoundry Gateway desde el fragmento de código unificado
- Clave de API: Pegue su token de autenticación de TrueFoundry
- Nombre del modelo: Utilice el nombre de modelo estándar de su configuración de equilibrio de carga (p. ej.,
gpt-4o)

Al completar estos pasos, todas las solicitudes de LLM del cliente Cursor se enviarán por proxy de forma segura a través del TrueFoundry AI Gateway.
Capacidades clave: observabilidad y gobernanza
Esta integración desbloquea un conjunto de funciones de nivel empresarial administradas desde un panel central.
Observabilidad integral
Todas las solicitudes procesadas por la pasarela se registran meticulosamente, lo que proporciona información detallada sobre los patrones de uso. Esto incluye:
- Registros detallados de solicitudes y respuestas: Registros de auditoría completos de las solicitudes y finalizaciones para la depuración, el análisis y el cumplimiento.
- Métricas de consumo de tokens: Monitorización en tiempo real del uso de los tokens de entrada y salida.
- Análisis de latencia: Métricas de rendimiento para identificar y abordar las respuestas lentas del modelo.
- Desgloses granulares de costos: Datos financieros organizados por solicitud, usuario, equipo o modelo.

Gobierno centralizado
La puerta de enlace permite la aplicación de las políticas organizacionales en todas las interacciones de LLM:
- Control de acceso detallado: Administre los permisos para definir qué usuarios o equipos pueden acceder a proveedores y modelos de LLM específicos.
- Límites de presupuesto y tarifas: Implemente límites simbólicos o basados en solicitudes para evitar sobrecostos presupuestarios y garantizar una asignación justa de los recursos.
- Lógica de conmutación por error automatizada: Configure reglas para redirigir automáticamente las solicitudes a un modelo secundario si el modelo principal no está disponible, garantizando la continuidad del servicio.
Beneficios para los equipos de ingeniería de plataformas
Para los equipos de plataforma e infraestructura, esta solución proporciona las herramientas necesarias para gestionar el desarrollo de la IA a escala.
- Mitigue el gasto en IA no supervisado: Consolide todos los costos de LLM de Cursor en un flujo único y observable, eliminando los puntos ciegos financieros.
- Estandarice los protocolos de cumplimiento y seguridad: Asegúrese de que todo el desarrollo asistido por IA cumpla con los estándares de seguridad corporativos y las políticas de gobierno de datos.
- Habilite la atribución precisa de costos: Asigne con precisión todos los gastos relacionados con la LLM a las unidades de negocio o equipos de desarrollo correspondientes para una gestión financiera eficaz.
Guía de implementación
Al integrar Cursor con TrueFoundry AI Gateway, las organizaciones pueden equilibrar la productividad de los desarrolladores con los requisitos empresariales de seguridad, gobernanza y supervisión financiera.
Para obtener instrucciones técnicas detalladas sobre cómo implementar esta integración, consulte la documentación oficial.
TrueFoundry AI Gateway ofrece una latencia de entre 3 y 4 ms, gestiona más de 350 RPS en una vCPU, se escala horizontalmente con facilidad y está listo para la producción, mientras que LitellM presenta una latencia alta, tiene dificultades para superar un RPS moderado, carece de escalado integrado y es ideal para cargas de trabajo ligeras o de prototipos.
La forma más rápida de crear, gobernar y escalar su IA















.png)


.webp)




.webp)







