Te ofrecemos acceso gratuito al informe completo Gartner Hype Cycle for AI Governance 2026. Consigue tu copia →
Obtenga acceso instantáneo a un entorno TrueFoundry en vivo. Implemente modelos, dirija el tráfico de LLM y explore la plataforma completa: su sandbox estará listo en segundos, sin necesidad de tarjeta de crédito.
.webp)
examroom.ai es una plataforma de evaluación basada en IA para universidades, organismos de certificación y entidades de acreditación. Gestiona todo el ciclo de vida de los exámenes, desde la creación de preguntas (que el equipo denomina "ítems") hasta el registro de candidatos, la supervisión de exámenes presenciales y remotos, y la entrega de resultados certificados en el momento en que el candidato termina. Algunos exámenes tienen una duración de hasta 28 horas. Detrás de una experiencia de usuario deliberadamente fluida se esconde un amplio ecosistema de IA: más de 60 soluciones distintas que abarcan desde visión artificial para la corrección de hojas de respuestas (OMR), hasta modelos de lenguaje extenso para soporte y evaluación, supervisión, previsión y selección de ítems.
A medida que examroom.ai trasladó estas soluciones del entorno experimental a la producción para cientos de miles de usuarios, los desafíos dejaron de centrarse en la precisión del modelo y pasaron a centrarse en operar la IA a gran escala: observabilidad, gobernanza, control de costes y salvaguardas. Este caso de estudio analiza cómo examroom.ai estandarizó esa capa operativa con TrueFoundry, utilizando la plataforma para desplegar servicios en horas en lugar de días, y adoptando TrueFoundry AI Gateway como el panel de control para la observabilidad y gobernanza de todo su ecosistema de IA.
“La IA aumenta las complicaciones si no se utiliza de la manera correcta. Pero resuelve el problema si se emplea adecuadamente”. — Deepak M K, vicepresidente de examroom.ai
examroom.ai se construyó con un enfoque de producción desde el primer día. “examRoom.ai tiene una mentalidad de producción primero”, explica Deepak. “Arquitectamos la solución no solo para experimentación o pruebas de concepto; debe estar diseñada para la red de producción. Porque en producción, escalar y resolver problemas es un desafío completamente distinto”.
El equipo aprendió esa lección pronto. En 2021, un modelo de detección de objetos (basado en YOLO y una arquitectura RCNN) para el monitoreo de la integridad de los exámenes funcionó a la perfección en un servidor local durante seis o siete horas de pruebas. En producción, el sistema falló: el modelo tardaba hasta cinco minutos en activarse y no lograba detectar los pequeños objetos que son cruciales para la integridad del examen. “Nos sentimos ansiosos por el éxito inicial en la máquina local”, recuerda Deepak. “Pero en producción, los nervios se ponen a prueba”.
Al diagnosticar el problema, el equipo encontró cuatro factores agravantes: una arquitectura que no mostraba errores sobre los que los desarrolladores pudieran actuar rápidamente; la falta de un sistema de servicio escalable; recursos de computación codificados sin autoescalado; y suposiciones de capacidad que colapsaron bajo la carga real. A medida que aumentaba el uso, la memoria y la computación se disparaban de forma impredecible.
A nivel operativo, el despliegue era un desafío en sí mismo. Incluso con Kubernetes gestionado y autoescalado, poner en marcha un servicio tomaba de cinco a seis días, y el equipo mantenía a tres ingenieros trabajando a tiempo completo solo en ML Ops. “Los costes en producción pueden descontrolarse si no utilizas los servicios adecuados de la manera correcta”, señala Deepak, y a esta escala, la gobernanza y la observabilidad dejaron de ser opcionales.
El primer cambio fue trasladar el despliegue a TrueFoundry. En lugar de gestionar clústeres manualmente, el equipo ahora envía contenedores y la plataforma se encarga del resto.
“Ahora no tenemos que preocuparnos por eso, porque nos pasamos a TrueFoundry. Solo tienes que enviar los contenedores y el sistema se encarga automáticamente de desplegar todos los servidores con el mínimo esfuerzo. Puedes gestionar la computación, controlar los costes y verlo todo visualmente. Eso redujo nuestro tiempo de 6 días a menos de 2 horas”.
Ese cambio permitió que los tres ingenieros dedicados a ML Ops pudieran centrarse en el producto en lugar de en la infraestructura. Hoy, examroom.ai ejecuta 94 servicios en TrueFoundry en entornos de producción, staging, UAT, QA y desarrollo, incluyendo cargas de trabajo con soporte de GPU para OCR, generación de elementos y detección, con escalado automático en capacidad spot y respaldo automático a bajo demanda. Cada servicio cuenta con su propio desglose de costos, seguimiento de volumen de solicitudes y latencia (P50/P90/P99), estado de los pods y registros centralizados, todo en un mismo lugar.
Una vez resuelto el despliegue, surgió el problema más difícil y estratégico: ¿cómo ver y gobernar más de 60 soluciones de IA que atienden a 500,000 usuarios sin ralentizar a nadie? Aquí es donde examroom.ai está estandarizando el uso de TrueFoundry AI Gateway como el plano de control único frente a sus modelos, agentes y herramientas.
“Últimamente, TrueFoundry también ha introducido la puerta de enlace, donde podemos resolver la parte de observabilidad y gobernanza”.
Para examroom.ai, la observabilidad no consiste en tener paneles por el simple hecho de tenerlos; es la diferencia entre un candidato que espera horas por un resultado y un ingeniero que resuelve la causa raíz en minutos. Cuando un resultado no se genera, el sistema debe informar al equipo el motivo: ¿fue un problema de reconocimiento de patrones o el modelo simplemente no pudo leer las marcas? Esa distinción dirige la notificación correcta al administrador adecuado, quien contacta al ingeniero indicado.
“Antes, entender el problema era el problema en sí mismo. Ahora solo vas a los registros, aplicas el filtro y sabes exactamente cuál es el problema, gracias a TrueFoundry, que además te indica la acción que debes tomar. No necesitas depurar ni imprimir todos los registros. Todo está frente a ti. Solo lo lees y actúas”.
Práctica clave: Trata la observabilidad como algo accionable, no solo visible; el objetivo es obtener una acción recomendada, no un muro de registros.
A menudo, la gobernanza se trata como un impuesto para los equipos de IA. La visión de Deepak es la opuesta: construye las barreras de seguridad correctamente desde el principio y la gobernanza se vuelve automática.
“Mucha gente dice que la IA es incapaz de manejar la gobernanza. Pero si la usas de la manera correcta, la gobernanza aparece automáticamente. Crea las barreras de seguridad como las necesites y no tendrás que gestionar la gobernanza en absoluto”.
Un ejemplo concreto: examroom.ai ejecuta un asistente de soporte para candidatos que tienen problemas durante el registro o el pago. Un candidato que pagó pero no recibió confirmación debería recibir ayuda exactamente con eso, y nada más. “¿Qué pasa si empieza a preguntar sobre política o sus comidas favoritas? Ahí es donde entra la barrera de seguridad”, dice Deepak. “Solo proporcionas una respuesta a las preguntas relacionadas: el problema que enfrentó el candidato al registrarse o realizar el pago”. AI Gateway es donde esas barreras se definen y aplican de manera consistente en todos los servicios, junto con el cifrado que utiliza examroom.ai para proteger los elementos del examen, cuya filtración podría comprometer la integridad de la evaluación de toda una universidad.
Práctica clave: Codifica la gobernanza como barreras de seguridad aplicadas en la puerta de enlace, para que cada modelo y agente herede la misma política automáticamente.
Con 500,000 usuarios, un solo usuario puede activar docenas de las más de 60 soluciones de IA a la vez. La puerta de enlace y una arquitectura de microservicios permiten a examroom.ai degradarse de forma controlada —pasando de tres soluciones a dos cuando una falla— sin que todo el sistema se caiga. “Aunque un servicio esté caído, puedes tomar medidas al respecto, pero tus servicios generales no se verán afectados”, explica Deepak. El mismo plano de control es donde el equipo gestiona el enrutamiento de modelos, modelos virtuales y la puerta de enlace MCP que conecta sus agentes con las herramientas.
Práctica clave: Diseñe un sistema de respaldo en la puerta de enlace para que el tráfico pueda redirigirse entre modelos y servicios sin alterar el sistema de producción.
examroom.ai estandariza un modelo híbrido de RAG y ajuste fino, utilizando la evaluación automatizada como estándar en lugar de la revisión humana. “Si observas los tokens, no son unos pocos cientos, son miles. Es imposible hacer un seguimiento manual”, comenta Deepak. “Por eso construyes un sistema capaz de evaluarse a sí mismo y, si falla, por supuesto que estás ahí para intervenir”. RAG permite definir fácilmente la memoria y las medidas de seguridad sobre la base de conocimientos, mientras que el ajuste fino se encarga de la terminología específica del dominio y de los resultados estandarizados.
Al preguntarle qué diferencia a los equipos que tienen éxito con la IA de los que tienen dificultades, el consejo de Deepak es concreto:
La trayectoria de examroom.ai demuestra que la parte más difícil de la IA en producción no es crear el modelo, sino gestionar un gran conjunto de modelos de forma segura, observable y asequible a gran escala. Al estandarizar el despliegue en TrueFoundry y consolidar la observabilidad y la gobernanza en el AI Gateway, examroom.ai convirtió un proceso de despliegue de seis días y tres ingenieros en una implementación de dos horas, y construyó el plano de control necesario para gobernar más de 60 soluciones de IA para medio millón de usuarios. Si está escalando la IA en producción y necesita observabilidad y gobernanza que estén a la altura, hable con TrueFoundry.
Las últimas noticias, artículos y recursos enviados a tu bandeja de entrada
