Presentamos Ask TFY: una nueva forma de entender y controlar tu IA en producción

Cada segundo, su IA toma decisiones. Los agentes hablan directamente con sus clientes, dirigen solicitudes, ejecutan herramientas y gastan dinero real. El sistema está en marcha y, la mayor parte del tiempo, usted no tiene idea de lo que realmente sucede en su interior.

Esto no es una crítica a su equipo. Es simplemente la realidad de ejecutar IA a escala. Los datos están ahí, en sus trazas, sus configuraciones y sus registros, pero acceder a ellos significa saber exactamente dónde buscar, qué filtrar y cómo conectar los puntos a través de media docena de pantallas diferentes. Cuando todo funciona, no piensa en ello. Cuando algo falla, de repente se encuentra cambiando de contexto entre su panel de monitoreo, su configuración de protección, sus reglas de enrutamiento y su documentación, tratando de reconstruir qué salió mal antes de que alguien lo convierta en un problema mayor.

Aquí es donde se encuentran la mayoría de los equipos hoy en día. Y es agotador.

¿Y si pudiera simplemente… preguntar?

Ask TFY es una nueva forma de interactuar con su puerta de enlace de IA en TrueFoundry. No es una barra de búsqueda ni un chatbot que le recita documentación. Es un agente integrado en TrueFoundry con acceso en tiempo real a todo lo que se ejecuta dentro de su puerta de enlace: sus modelos, sus trazas, sus servidores MCP, sus configuraciones de protección, sus reglas presupuestarias y sus políticas de acceso a datos. Cuando le pregunta algo, le responde basándose en lo que realmente está sucediendo en su sistema en este momento. 

Depure fallos en segundos, no en horas

Aquí hay un escenario que puede resultarle demasiado familiar. Su aplicación comienza a arrojar errores. No sabe si es un problema del modelo, un problema de enrutamiento, un límite presupuestario que se alcanzó o algo completamente distinto. Así que comienza a investigar, filtrando trazas manualmente, buscando patrones y verificando configuraciones una por una.

Con Ask TFY, en su lugar, describe el problema.

"Mi aplicación ha estado fallando de forma intermitente durante los últimos 7 días. ¿Qué salió mal?"

Ask TFY analiza su historial de trazas, clasifica los errores, identifica si los fallos fueron del lado del cliente o causados por algo como la caída de un proveedor de modelos externo, y muestra el patrón. Le dice qué se rompió y por qué, específicamente, no de forma genérica. Y luego le dice qué hacer al respecto.

"¿Cómo puedo corregir la configuración para hacer esto más resiliente?"

Recomienda la solución adecuada para su configuración. Tal vez sea configurar un modelo virtual con una alternativa de respaldo. Tal vez sea ajustar sus reglas de enrutamiento. Como conoce su sistema, le da una respuesta que realmente se aplica, no una guía de solución de problemas genérica.

Y luego puede pedirle que actúe sobre esa recomendación directamente.

"Aplica la configuración de presupuesto y respaldo recomendada a ese agente."

Eso es todo. Se mantuvo en un solo lugar, hizo tres preguntas y el problema está resuelto. Sin copiar YAML de una pantalla para pegarlo en otra. Sin cambiar de pestañas.

Descubra información que no se te ocurriría buscar que no se te ocurriría buscar

La depuración es un caso de uso, pero Ask TFY es igual de útil cuando aparentemente todo funciona bien. Los problemas de producción más costosos son aquellos que consumen tus recursos silenciosamente o crean vulnerabilidades de seguridad antes de que alguien se dé cuenta.

Por ejemplo, puedes preguntar qué tan bien se está utilizando realmente el almacenamiento en caché de prompts a nivel de proveedor. No solo te dará una cifra; te indicará qué solicitudes específicas no están aprovechando la caché y exactamente dónde debes añadir el bloque de caché para solucionarlo. Es el tipo de información que a un ingeniero experto le tomaría una hora extraer manualmente, y que la mayoría de los equipos ignoran porque no parece urgente hasta que llega la factura.

O pregunta sobre los costos. Indica un rango de tiempo y cómo quieres desglosar el gasto (por desarrollador, por aplicación o por modelo), y generará el análisis y propondrá una configuración de presupuesto que puedes aplicar directamente.

Por qué esto es diferente

Las preguntas más importantes en las operaciones de IA rara vez son aquellas para las que están diseñados los paneles de control estándar. Las herramientas de observabilidad te muestran qué sucedió. Ask TFY te ayuda a entender por qué, decidir qué hacer y ejecutarlo, todo sin salir de la conversación.

No hay necesidad de reconstruir el contexto entre pestañas, ni de realizar referencias cruzadas manuales, ni de traducir lo que encontraste en el monitoreo a lo que debe cambiarse en la configuración. Ask TFY mantiene todo eso presente y trabaja sobre ello en tu nombre.

Además, sabe más que solo tus datos. Pregúntale algo que vaya más allá de tu gateway, como la forma en que una biblioteca de terceros se integra con tu configuración, qué espera la API de un proveedor de modelos específico o cómo estructurar una configuración que nunca antes habías configurado, y extraerá información de la documentación de TrueFoundry y buscará en la web para completar los detalles.

La próxima vez que necesites entender qué está haciendo realmente tu IA en producción, o necesites actuar rápidamente, simplemente pregunta a Ask TFY.

Ask TFY ya está disponible en TrueFoundry AI Gateway. Regístrate ahora para comenzar.