El problema de la proliferación de agentes: Por qué las empresas necesitan control antes que autonomía

Los líderes tecnológicos empresariales ya han visto este patrón antes.

La proliferación de SaaS dio velocidad a los equipos de negocio, pero creó duplicación, TI en la sombra, riesgo de acceso y complejidad de proveedores. La proliferación de API mejoró la reutilización, pero introdujo puntos finales no gestionados y controles inconsistentes. La proliferación de la nube dio flexibilidad a los desarrolladores, y luego obligó a las empresas a reconstruir la disciplina en torno a la identidad, el costo, el cumplimiento y la observabilidad.

Los agentes de IA son la próxima manifestación de este problema.

La diferencia es que los agentes no son solo aplicaciones, API o infraestructura. Son actores de software. Pueden razonar, usar herramientas, acceder a datos, activar flujos de trabajo y actuar en nombre de usuarios o procesos de negocio.

Esto hace que la proliferación de agentes sea más compleja que las olas anteriores de tecnología empresarial. Una aplicación SaaS almacena y procesa datos. Una API expone una capacidad. Un servicio en la nube ejecuta infraestructura. Un agente puede coordinar los tres.

La pregunta para las empresas ya no es si construirán agentes. Lo harán. La verdadera pregunta es si los gobernarán antes de que se multipliquen.

Los agentes se propagarán más rápido que la gobernanza

Es fácil crear prototipos de agentes.

Un equipo puede conectar un modelo a un marco de trabajo, añadir recuperación, exponer algunas herramientas y automatizar un flujo de trabajo en cuestión de días. Los primeros resultados son convincentes: un agente de soporte que resume tickets, un agente de ventas que prepara informes de cuentas, un agente de ingeniería que revisa código o un agente de operaciones que clasifica incidentes.

Esa facilidad de creación es exactamente la razón por la que la proliferación es probable.

Cada función querrá sus propios agentes. Cada equipo de producto querrá agentes integrados. Cada equipo de ingeniería probará agentes de codificación y operativos. Cada equipo de datos explorará agentes analíticos. Este es el resultado natural del desarrollo democratizado de la IA.

El mercado ya se está moviendo en esa dirección. Forrester señala que las plataformas de IA se centran cada vez más en la IA agéntica, con proveedores que apoyan el desarrollo y la implementación de asistentes de IA, agentes y aplicaciones de IA. Pero este mismo cambio plantea un desafío de producción: la IA de nivel empresarial todavía requiere observabilidad, gobernanza continua, cumplimiento, gestión del ciclo de vida y optimización de costos.

Esa tensión define la siguiente fase de la IA empresarial: la capacidad de construir agentes se está propagando más rápido que el modelo operativo para gestionarlos.

Por qué la proliferación de agentes es diferente

Los agentes combinan múltiples capas de comportamiento.

Un único agente puede involucrar un modelo fundacional, prompts, instrucciones del sistema, pipelines de recuperación, API, servidores MCP, memoria, identidad del usuario, permisos, rutas de aprobación humana, trazas, conjuntos de datos de evaluación y políticas de costos.

Eso significa que el riesgo no está aislado en un solo componente. Se mueve a lo largo de toda la ruta de ejecución.

Un agente puede fallar porque el modelo alucinó, la instrucción era deficiente, el contexto recuperado era incorrecto, el esquema de la herramienta era ambiguo, el usuario tenía permisos excesivos, el flujo de trabajo carecía de una puerta de aprobación o la lógica de reintentos generó costos descontrolados.

El software tradicional se rige controlando el código, el acceso y la implementación. Los sistemas agénticos requieren control sobre el comportamiento.

Gartner define los agentes de IA como entidades de software autónomas o semiautónomas que perciben, toman decisiones, realizan acciones y alcanzan objetivos en entornos digitales o físicos. También señala que muchos agentes actuales basados en LLM se mantienen más cerca de los flujos de trabajo aumentados por LLM que de los sistemas totalmente adaptativos, y que la preparación varía significativamente según el tipo de agente.

Esto es relevante porque el mercado ya está utilizando el lenguaje de los agentes antes de que muchos sistemas tengan la madurez operativa de los agentes. Incluso antes de que los agentes se vuelvan completamente autónomos, ya son lo suficientemente complejos como para crear brechas de gobernanza.

La primera brecha: el inventario

El primer síntoma de la proliferación de agentes será el fallo del inventario.

La mayoría de las empresas no sabrán inicialmente cuántos agentes existen, quién los posee, qué modelos utilizan, a qué datos acceden, qué herramientas pueden invocar o cuánto cuestan.

En la era SaaS, la pregunta del inventario era: "¿Qué aplicaciones están utilizando los empleados?".

En la era de los agentes, la pregunta del inventario pasa a ser:

• ¿Qué agentes existen?
• ¿Quién es el propietario de cada agente?
• ¿Cuál es su propósito y nivel de autonomía?
• ¿Qué usuarios o sistemas pueden invocarlo?
• ¿A qué modelos, fuentes de datos y herramientas puede acceder?
• ¿Qué acciones puede realizar?
• ¿Qué políticas se aplican?
• ¿Cuánto cuesta por tarea o flujo de trabajo?
• ¿Cuándo fue evaluado por última vez?

Esto no es catalogación. Es la base para la rendición de cuentas.

El informe 'AI Governance Solutions Landscape' de Forrester identifica el inventario de IA como un punto crítico y afirma que las organizaciones buscan visibilidad y control de los activos de IA para cumplir con los objetivos comerciales, regulatorios y de IA responsable.

Los agentes hacen que ese problema de inventario sea más urgente porque no son activos pasivos. Actúan.

El acceso a las herramientas es donde el riesgo se vuelve real

Un agente que redacta contenido conlleva un nivel de riesgo. Un agente que puede invocar herramientas conlleva otro.

En el momento en que un agente puede consultar una base de datos, actualizar un CRM, activar un flujo de trabajo, enviar un mensaje, modificar la infraestructura, crear un ticket o ejecutar código, se convierte en parte de la superficie de control empresarial.

Estándares como el Protocolo de Contexto de Modelo (MCP) facilitan la conectividad de herramientas. Pero una conectividad más sencilla no crea automáticamente la preparación empresarial.

La investigación de Gartner sobre MCP Gateway señala que las empresas que adoptan MCP han encontrado lagunas en torno al registro, la detectabilidad, la autenticación forzada, la autorización, la contabilidad y la auditoría. También afirma que las empresas necesitan una forma de registrar, descubrir y observar centralmente miles de servidores MCP potenciales. [SEG 9] La lección más amplia es simple: cada herramienta que un agente puede usar debe estar registrada, con permisos asignados, ser observable y auditable.

El futuro no puede ser «agentes conectados a todo». Debe ser «agentes conectados a capacidades aprobadas a través de puntos de control gobernados».

La curva de costos sorprenderá a los equipos

La proliferación de agentes también creará un riesgo de costos.

Una interacción de chatbot puede implicar una o pocas llamadas a modelos. Un flujo de trabajo agéntico puede implicar planificación, recuperación, selección de herramientas, ejecución de herramientas, validación, reintentos, resumen y generación de respuesta final. Una solicitud de usuario puede convertirse en una larga cadena de llamadas a modelos y llamadas a herramientas.

Por eso la economía de los agentes puede sorprender a los equipos. Gartner señala que los flujos de trabajo agénticos pueden convertir una única solicitud de usuario en decenas o cientos de llamadas a LLM, especialmente cuando los agentes planifican, usan herramientas, reintentan o entran en bucle. Sin políticas y barandales, los agentes no tienen en cuenta de forma natural el costo de esas acciones.

Eso rompe la simplicidad de los informes a nivel de token.

La mejor métrica no es solo el costo por token. Es el costo por resultado:

‍

‍

El riesgo de costos no es teórico. Gartner predice que, hasta 2028, al menos el 50% de los proyectos de GenAI superarán los costos presupuestados debido a malas decisiones arquitectónicas y a la falta de conocimientos operativos. También predice que la inferencia representará al menos el 70% de los costos totales de vida útil del modelo hasta 2028.

La proliferación de agentes amplificará este riesgo porque el gasto se originará en muchos equipos, flujos de trabajo, herramientas y modelos. Sin controles de costos en tiempo de ejecución, los líderes descubrirán la factura una vez que la arquitectura ya se haya fragmentado.

La observabilidad debe evolucionar hacia la rendición de cuentas

La observabilidad tradicional les dice a los equipos si los sistemas están disponibles, lentos, saturados o fallando.

La observabilidad de los agentes tiene que explicar por qué el agente se comportó como lo hizo.

Para cada acción importante del agente, los equipos necesitan saber el objetivo original, la versión del prompt, el modelo utilizado, el contexto recuperado, la herramienta seleccionada, los argumentos pasados, las barreras de seguridad aplicadas, la decisión de política tomada, los tokens consumidos, la latencia por paso, el costo por paso, el estado de aprobación humana y el resultado final.

La Guía de Mercado de Gartner para Plataformas de Evaluación y Observabilidad de IA afirma que el no determinismo en la IA generativa y la IA agéntica dificulta la medición y mejora de la fiabilidad y la confianza. Define estas plataformas como herramientas que combinan evaluaciones con registros, métricas y trazas para mejorar la fiabilidad y la alineación.

Esto es importante porque los fallos del agente no siempre son fallos de infraestructura.

Un agente puede estar disponible y aun así equivocarse. Puede ser rápido y aun así ser inseguro. Puede completar una tarea y aun así violar la política. Puede llamar a una herramienta permitida por la razón equivocada.

En la era de los agentes, la observabilidad no es solo para la depuración. Es para la rendición de cuentas.

La evaluación no puede seguir siendo manual

Muchos equipos todavía evalúan los sistemas de IA mediante revisión manual, pruebas ad hoc o calidad de demostración. Eso no es escalable cuando docenas o cientos de agentes están cambiando prompts, modelos, herramientas y fuentes de contexto.

Las pruebas tradicionales funcionan bien cuando las salidas son deterministas. Las salidas de los agentes son probabilísticas y dependen del contexto. La pregunta no es siempre si se produjo una respuesta exacta. Es si la respuesta o acción fue lo suficientemente buena, lo suficientemente segura, lo suficientemente fundamentada y lo suficientemente alineada para el uso previsto.

La brecha de evaluación sigue siendo amplia. Gartner informa que solo el 18% de los encuestados utiliza herramientas de evaluación de IA para probar las salidas y los comportamientos de los agentes de IA personalizados hoy en día. Esto es importante porque a medida que los agentes se multiplican, la revisión manual y la confianza basada en demostraciones no serán escalables.

Las empresas que escalan agentes necesitarán una evaluación continua en la finalización de tareas, la fundamentación, el uso de herramientas, la seguridad, la adhesión a políticas, el costo y la fiabilidad.

El patrón crítico es un bucle de retroalimentación: las trazas de producción se convierten en conjuntos de datos de evaluación, los fallos se convierten en pruebas de regresión y las correcciones humanas mejoran el comportamiento futuro.

Sin ese bucle, cada equipo aprende de forma aislada, y la proliferación de agentes se vuelve inmanejable.

La gobernanza tiene que volverse ejecutable

La gobernanza de la IA a menudo ha sido tratada como una función de documentación y revisión: tarjetas de modelo, evaluaciones de riesgos, listas de verificación de cumplimiento, juntas de aprobación y evidencia de auditoría.

Eso sigue siendo necesario, pero no es suficiente para los agentes.

Los agentes toman decisiones en tiempo de ejecución. Se encuentran con contextos cambiantes, utilizan herramientas, generan costos e interactúan con los sistemas de forma dinámica. Los procesos de aprobación estáticos no pueden anticipar cada acción que un agente podría intentar.

El informe Wave de Forrester sobre Soluciones de Gobernanza de IA destaca que las herramientas de gobernanza ayudan a las empresas a ir más allá de las limitaciones de la gobernanza basada en hojas de cálculo y comités a medida que escalan los casos de uso de IA, la propiedad, las evaluaciones de riesgos, las auditorías de cumplimiento y la confianza en la IA de terceros.

La gobernanza no debe verse como un freno a la adopción de la IA. Forrester informa que el 79% de los responsables de la toma de decisiones en IA coincidieron en que la gobernanza de la IA ayuda a sus organizaciones a adaptarse rápidamente a las cambiantes condiciones del mercado y regulatorias. La era de los agentes pondrá a prueba si esa gobernanza puede pasar de la intención política al control en tiempo de ejecución.

La IA agéntica lleva esto más allá. La gobernanza debe volverse ejecutable.

‍

Esta es la diferencia entre la gobernanza como supervisión y la gobernanza como infraestructura.

La proliferación de agentes no se resolverá pidiendo a cada equipo que rellene más formularios. Se resolverá haciendo que el camino gobernado sea más fácil que el camino sin control.

La pregunta para el liderazgo: ¿cuánta autonomía es apropiada?

La decisión más importante sobre los agentes empresariales no es qué modelo o marco utilizar. Es cuánta autonomía permitir.

Un agente de resumen de documentos, un agente de investigación de ventas, un agente de generación de código, un agente de aprobación financiera y un agente de remediación de infraestructura no deberían tener la misma autoridad. Cada uno conlleva un nivel diferente de riesgo empresarial, de seguridad, de cumplimiento y de costos.

El camino correcto es la autonomía progresiva: comenzar con casos de uso delimitados, instrumentar todo, evaluar continuamente y expandir la autoridad solo donde el agente demuestre ser fiable, rentable y gobernable.

Antes de escalar los agentes, los equipos de liderazgo deberían preguntarse:

Si la respuesta es no a la mayoría de estas preguntas, la organización podría estar lista para la experimentación con agentes, pero no para un despliegue amplio de agentes.

‍

Qué deben hacer los líderes ahora

La proliferación de agentes no es inevitable, pero prevenirla requiere decisiones arquitectónicas tempranas.

Primero, cree un modelo de inventario para agentes, herramientas, modelos, prompts y flujos de trabajo. La propiedad, el propósito, el nivel de autonomía, el acceso a los datos, el acceso a las herramientas y el estado de evaluación deben ser visibles desde el principio.

Segundo, centralice el acceso a los modelos. No permita que cada equipo gestione sus propias credenciales, lógica de proveedor, enrutamiento, presupuestos y registros.

Tercero, gobierne el acceso a las herramientas antes de que se vuelva inmanejable. Los agentes no deben conectarse directamente a herramientas arbitrarias. Las herramientas deben ser registradas, autorizadas, monitoreadas y auditadas.

Cuarto, haga que la observabilidad y la evaluación sean obligatorias para los agentes en producción. Cada agente importante debe producir rastros que expliquen las llamadas al modelo, el contexto, el uso de herramientas, las decisiones de política, el costo y los resultados finales.

En quinto lugar, defina niveles de autonomía según el riesgo. Los agentes de bajo riesgo pueden actuar más rápido. Los agentes de alto riesgo necesitan aprobaciones, límites más estrictos y una mayor capacidad de auditoría.

Finalmente, mida la economía de los agentes en función de los resultados. El costo por token no es suficiente. Los líderes necesitan el costo por tarea, el costo por flujo de trabajo, el costo por decisión y el costo por resultado de negocio.

Reflexión final

Los agentes se convertirán en una parte fundamental del software empresarial. Ese no es el debate.

El debate es si las empresas permitirán que los agentes se extiendan de la misma manera que lo hicieron en su momento SaaS, las API y la nube: rápidamente, de forma útil y luego caóticamente.

La proliferación de agentes es prevenible, pero solo si los líderes reconocen a los agentes por lo que son: entidades de software que toman acciones y que requieren identidad, políticas, observabilidad, control de costos y gobernanza.

El futuro de la IA empresarial no se definirá por el número de agentes que una organización lance.

Se definirá por la seguridad con la que esos agentes puedan actuar.

La autonomía creará valor. El control lo hará escalable.