Le problème de la prolifération des agents : Pourquoi les entreprises ont besoin de contrôle avant l'autonomie

Les responsables technologiques des entreprises ont déjà vu ce schéma.

La prolifération du SaaS a donné de la vitesse aux équipes métier, mais a créé de la duplication, du shadow IT, des risques d'accès et une complexité fournisseur. La prolifération des API a amélioré la réutilisation, mais a introduit des points d'accès non gérés et des contrôles incohérents. La prolifération du cloud a donné de la flexibilité aux développeurs, puis a contraint les entreprises à reconstruire une discipline autour de l'identité, des coûts, de la conformité et de l'observabilité.

Les agents d'IA sont la prochaine version de ce problème.

La différence est que les agents ne sont pas seulement des applications, des API ou des infrastructures. Ils sont des acteurs logiciels. Ils peuvent raisonner, utiliser des outils, accéder aux données, déclencher des flux de travail et agir au nom des utilisateurs ou des processus métier.

Cela rend la prolifération des agents plus complexe que les vagues précédentes de technologies d'entreprise. Une application SaaS stocke et traite des données. Une API expose une fonctionnalité. Un service cloud exécute une infrastructure. Un agent peut coordonner les trois.

La question pour les entreprises n'est plus de savoir si elles vont créer des agents. Elles le feront. La vraie question est de savoir si elles les gouverneront avant qu'ils ne se multiplient.

Les agents se propageront plus vite que la gouvernance

Les agents sont faciles à prototyper.

Une équipe peut connecter un modèle à un framework, ajouter de la récupération, exposer quelques outils et automatiser un flux de travail en quelques jours. Les premiers résultats sont convaincants : un agent de support qui résume les tickets, un agent commercial qui prépare des synthèses de comptes, un agent d'ingénierie qui révise le code, ou un agent d'opérations qui trie les incidents.

Cette facilité de création est précisément la raison pour laquelle la prolifération est probable.

Chaque fonction voudra ses propres agents. Chaque équipe produit voudra des agents intégrés. Chaque équipe d'ingénierie testera des agents de codage et opérationnels. Chaque équipe de données explorera des agents analytiques. C'est le résultat naturel du développement démocratisé de l'IA.

Le marché évolue déjà dans cette direction. Forrester note que les plateformes d'IA se concentrent de plus en plus sur l'IA agentique, les fournisseurs prenant en charge le développement et le déploiement d'assistants IA, d'agents et d'applications IA. Mais ce même changement soulève un défi de production : l'IA de niveau entreprise nécessite toujours de l'observabilité, une gouvernance continue, de la conformité, une gestion du cycle de vie et une optimisation des coûts.

Cette tension définit la prochaine phase de l'IA en entreprise : la capacité à créer des agents se propage plus vite que le modèle opérationnel pour les gérer.

Pourquoi la prolifération des agents est différente

Les agents combinent plusieurs couches de comportement.

Un seul agent peut impliquer un modèle de fondation, des invites, des instructions système, des pipelines de récupération, des API, des serveurs MCP, de la mémoire, l'identité de l'utilisateur, des permissions, des chemins d'approbation humaine, des traces, des ensembles de données d'évaluation et des politiques de coûts.

Cela signifie que le risque n'est pas isolé à un seul composant. Il se déplace sur l'ensemble du chemin d'exécution.

Un agent peut échouer parce que le modèle a halluciné, l'invite était faible, le contexte récupéré était erroné, le schéma de l'outil était ambigu, l'utilisateur avait des autorisations excessives, le flux de travail manquait d'une étape d'approbation, ou la logique de réessai a entraîné des coûts incontrôlés.

Les logiciels traditionnels sont régis par le contrôle du code, de l'accès et du déploiement. Les systèmes agentiques nécessitent un contrôle sur le comportement.

Gartner définit les agents d'IA comme des entités logicielles autonomes ou semi-autonomes qui perçoivent, prennent des décisions, agissent et atteignent des objectifs dans des environnements numériques ou physiques. Il note également que de nombreux agents actuels basés sur des LLM restent plus proches de flux de travail augmentés par des LLM que de systèmes entièrement adaptatifs, et que leur maturité varie considérablement selon le type d'agent.

C'est important car le marché utilise déjà le langage des agents avant que de nombreux systèmes n'aient la maturité opérationnelle des agents. Même avant que les agents ne deviennent entièrement autonomes, ils sont déjà suffisamment complexes pour créer des lacunes en matière de gouvernance.

La première lacune : l'inventaire

Le premier symptôme de la prolifération des agents sera une défaillance de l'inventaire.

La plupart des entreprises ne sauront pas initialement combien d'agents existent, qui les possède, quels modèles ils utilisent, à quelles données ils accèdent, quels outils ils peuvent appeler, ou ce qu'ils coûtent.

À l'ère du SaaS, la question de l'inventaire était : « Quelles applications les employés utilisent-ils ? »

À l'ère des agents, la question de l'inventaire devient :

• Quels agents existent ?
• Qui possède chaque agent ?
• Quel est son objectif et son niveau d'autonomie ?
• Quels utilisateurs ou systèmes peuvent l'invoquer ?
• À quels modèles, sources de données et outils peut-il accéder ?
• Quelles actions peut-il entreprendre ?
• Quelles politiques s'appliquent ?
• Combien coûte-t-il par tâche ou par flux de travail ?
• Quand a-t-il été évalué pour la dernière fois ?

Il ne s'agit pas de catalogage. C'est le fondement de la responsabilisation.

Le panorama des solutions de gouvernance de l'IA de Forrester identifie l'inventaire de l'IA comme un point sensible majeur et indique que les organisations recherchent une visibilité et un contrôle sur leurs actifs d'IA pour atteindre leurs objectifs commerciaux, réglementaires et d'IA responsable.

Les agents rendent ce problème d'inventaire plus urgent car ce ne sont pas des actifs passifs. Ils agissent.

L'accès aux outils est le moment où le risque se concrétise

Un agent qui rédige du contenu comporte un certain niveau de risque. Un agent qui peut appeler des outils en comporte un autre.

Dès qu'un agent peut interroger une base de données, mettre à jour un CRM, déclencher un flux de travail, envoyer un message, modifier l'infrastructure, créer un ticket ou exécuter du code, il fait partie de la surface de contrôle de l'entreprise.

Des standards tels que le Model Context Protocol facilitent la connectivité des outils. Mais une connectivité facilitée ne garantit pas automatiquement la préparation à l'échelle de l'entreprise.

La recherche de Gartner sur la passerelle MCP (MCP Gateway) indique que les entreprises adoptant le MCP ont identifié des lacunes concernant l'enregistrement, la découvrabilité, l'authentification forcée, l'autorisation, la comptabilité et l'audit. Elle indique également que les entreprises ont besoin d'un moyen de centraliser l'enregistrement, la découverte et l'observation de potentiellement des milliers de serveurs MCP.

La leçon générale est simple : chaque outil qu'un agent peut utiliser doit être enregistré, autorisé, observable et auditable.

L'avenir ne peut pas être « des agents connectés à tout ». Il doit être « des agents connectés à des capacités approuvées via des points de contrôle régulés ».

La courbe des coûts surprendra les équipes

La prolifération des agents engendrera également un risque financier.

Une interaction avec un chatbot peut impliquer un ou quelques appels de modèle. Un flux de travail agentique peut impliquer la planification, la récupération, la sélection d'outils, l'exécution d'outils, la validation, les tentatives, la synthèse et la génération de la réponse finale. Une seule requête utilisateur peut se transformer en une longue chaîne d'appels de modèle et d'appels d'outils.

C'est pourquoi l'économie des agents peut surprendre les équipes. Gartner note que les flux de travail agentiques peuvent transformer une seule requête utilisateur en des dizaines, voire des centaines d'appels LLM, en particulier lorsque les agents planifient, utilisent des outils, réessayent ou bouclent. Sans politiques et garde-fous, les agents ne tiennent pas naturellement compte du coût de ces actions.

Cela rompt la simplicité des rapports au niveau du jeton.

La meilleure métrique n'est pas seulement le coût par jeton. C'est le coût par résultat :

‍

‍

Le risque de coût n'est pas théorique. Gartner prévoit que d'ici 2028, au moins 50 % des projets GenAI dépasseront les coûts budgétisés en raison de mauvais choix architecturaux et d'un manque de savoir-faire opérationnel. Il prédit également que l'inférence représentera au moins 70 % des coûts totaux de durée de vie des modèles d'ici 2028.

La prolifération des agents amplifiera ce risque car les dépenses proviendront de nombreuses équipes, flux de travail, outils et modèles. Sans contrôles des coûts d'exécution, les dirigeants découvriront la facture une fois l'architecture déjà fragmentée.

L'observabilité doit évoluer vers l'imputabilité

L'observabilité traditionnelle indique aux équipes si les systèmes sont disponibles, lents, saturés ou en panne.

L'observabilité des agents doit expliquer pourquoi l'agent s'est comporté de cette manière.

Pour chaque action importante d'un agent, les équipes doivent connaître l'objectif initial, la version du prompt, le modèle utilisé, le contexte récupéré, l'outil sélectionné, les arguments transmis, les garde-fous appliqués, la décision de politique prise, les jetons consommés, la latence par étape, le coût par étape, le statut d'approbation humaine et le résultat final.

Le guide de marché de Gartner pour les plateformes d'évaluation et d'observabilité de l'IA indique que le non-déterminisme dans l'IA générative (GenAI) et l'IA agentique rend difficile la mesure et l'amélioration de la fiabilité et de la confiance. Il définit ces plateformes comme des outils qui combinent les évaluations avec les journaux, les métriques et les traces pour améliorer la fiabilité et l'alignement.

C'est important car les défaillances des agents ne sont pas toujours des défaillances d'infrastructure.

Un agent peut être disponible et pourtant se tromper. Il peut être rapide et pourtant dangereux. Il peut accomplir une tâche et pourtant enfreindre la politique. Il peut appeler un outil autorisé pour une mauvaise raison.

À l'ère des agents, l'observabilité n'est pas seulement pour le débogage. Elle est pour l'imputabilité.

L'évaluation ne peut pas rester manuelle

De nombreuses équipes évaluent encore les systèmes d'IA par le biais d'examens manuels, de tests ad hoc ou de la qualité des démonstrations. Cela ne peut pas être mis à l'échelle lorsque des dizaines ou des centaines d'agents modifient les prompts, les modèles, les outils et les sources de contexte.

Les tests traditionnels fonctionnent bien lorsque les sorties sont déterministes. Les sorties des agents sont probabilistes et dépendent du contexte. La question n'est pas toujours de savoir si une réponse exacte a été produite. Il s'agit de savoir si la réponse ou l'action était suffisamment bonne, suffisamment sûre, suffisamment fondée et suffisamment alignée pour l'utilisation prévue.

L'écart d'évaluation est encore important. Gartner rapporte que seulement 18 % des répondants utilisent aujourd'hui des outils d'évaluation de l'IA pour tester les sorties et les comportements des agents d'IA personnalisés. C'est important car à mesure que les agents se multiplient, l'examen manuel et la confiance basée sur les démonstrations ne pourront pas être mis à l'échelle.

Les entreprises qui déploient des agents à grande échelle auront besoin d'une évaluation continue de l'achèvement des tâches, de la pertinence, de l'utilisation des outils, de la sécurité, du respect des politiques, du coût et de la fiabilité.

Le schéma critique est une boucle de rétroaction : les traces de production deviennent des ensembles de données d'évaluation, les défaillances deviennent des tests de régression, et les corrections humaines améliorent le comportement futur.

Sans cette boucle, chaque équipe apprend de manière isolée, et la prolifération des agents devient ingérable.

La gouvernance doit devenir exécutable

La gouvernance de l'IA a souvent été traitée comme une fonction de documentation et d'examen : fiches de modèle, évaluations des risques, listes de contrôle de conformité, comités d'approbation et preuves d'audit.

Cela reste nécessaire, mais ce n'est pas suffisant pour les agents.

Les agents prennent des décisions à l'exécution. Ils rencontrent un contexte changeant, utilisent des outils, génèrent des coûts et interagissent dynamiquement avec les systèmes. Les processus d'approbation statiques ne peuvent pas anticiper toutes les actions qu'un agent pourrait tenter.

Le rapport Wave de Forrester sur les solutions de gouvernance de l'IA souligne que les outils de gouvernance aident les entreprises à dépasser les limites de la gouvernance par feuille de calcul et par comité à mesure qu'elles étendent leurs cas d'utilisation de l'IA, la propriété, les évaluations des risques, les audits de conformité et la confiance dans l'IA tierce.

La gouvernance ne doit pas être perçue comme un frein à l'adoption de l'IA. Forrester rapporte que 79 % des décideurs en matière d'IA ont convenu que la gouvernance de l'IA aide leurs organisations à s'adapter rapidement aux conditions changeantes du marché et de la réglementation. L'ère des agents mettra à l'épreuve la capacité de cette gouvernance à passer de l'intention politique au contrôle à l'exécution.

L'IA agentique pousse cela plus loin. La gouvernance doit devenir exécutable.

‍

C'est la différence entre la gouvernance en tant que supervision et la gouvernance en tant qu'infrastructure.

La prolifération des agents ne sera pas résolue en demandant à chaque équipe de remplir davantage de formulaires. Elle sera résolue en rendant le chemin gouverné plus facile que le chemin non contrôlé.

La question pour les dirigeants : quel niveau d'autonomie est approprié ?

La décision la plus importante concernant les agents d'entreprise n'est pas de savoir quel modèle ou cadre utiliser. C'est de savoir quel degré d'autonomie accorder.

Un agent de résumé de documents, un agent de recherche commerciale, un agent de génération de code, un agent d'approbation financière et un agent de remédiation d'infrastructure ne devraient pas avoir la même autorité. Chacun comporte un niveau de risque différent en termes d'affaires, de sécurité, de conformité et de coûts.

La bonne approche est l'autonomie progressive : commencez par des cas d'utilisation circonscrits, instrumentez tout, évaluez continuellement et n'étendez l'autorité que lorsque l'agent se révèle fiable, rentable et gouvernable.

Avant de déployer des agents à grande échelle, les équipes dirigeantes devraient se demander :

Si la réponse est non à la plupart de ces questions, l'organisation est peut-être prête pour l'expérimentation d'agents, mais pas pour un déploiement généralisé d'agents.

‍

Ce que les dirigeants devraient faire maintenant

La prolifération des agents n'est pas inévitable, mais la prévenir exige des décisions architecturales précoces.

Premièrement, créez un modèle d'inventaire pour les agents, les outils, les modèles, les invites et les flux de travail. La propriété, l'objectif, le niveau d'autonomie, l'accès aux données, l'accès aux outils et le statut d'évaluation devraient être visibles dès le départ.

Deuxièmement, centralisez l'accès aux modèles. Ne laissez pas chaque équipe gérer ses propres identifiants, la logique du fournisseur, le routage, les budgets et les journaux.

Troisièmement, gouvernez l'accès aux outils avant qu'il ne devienne ingérable. Les agents ne devraient pas se connecter directement à des outils arbitraires. Les outils devraient être enregistrés, autorisés, surveillés et audités.

Quatrièmement, rendez l'observabilité et l'évaluation obligatoires pour les agents en production. Chaque agent important devrait produire des traces qui expliquent les appels de modèle, le contexte, l'utilisation des outils, les décisions politiques, les coûts et les résultats finaux.

Cinquièmement, définissez des niveaux d'autonomie en fonction du risque. Les agents à faible risque peuvent agir plus rapidement. Les agents à haut risque nécessitent des approbations, des garde-fous plus stricts et une auditabilité renforcée.

Enfin, mesurez l'économie des agents par les résultats. Le coût par jeton ne suffit pas. Les dirigeants ont besoin du coût par tâche, du coût par flux de travail, du coût par décision et du coût par résultat commercial.

Réflexion finale

Les agents deviendront une composante majeure des logiciels d'entreprise. Ce n'est pas là le débat.

Le débat est de savoir si les entreprises laisseront les agents se propager comme l'ont fait autrefois le SaaS, les API et le cloud : rapidement, utilement, puis de manière chaotique.

La prolifération des agents est évitable, mais seulement si les dirigeants reconnaissent les agents pour ce qu'ils sont : des entités logicielles capables d'agir qui nécessitent une identité, une politique, une observabilité, un contrôle des coûts et une gouvernance.

L'avenir de l'IA d'entreprise ne sera pas défini par le nombre d'agents qu'une organisation déploie.

Il sera défini par la sécurité avec laquelle ces agents peuvent agir.

L'autonomie créera de la valeur. Le contrôle la rendra évolutive.