Transformer le chaos de l'IA en contrôle : conversation sur l'IA agentique avec Tesseract Talks

Alors que les entreprises passent de l'expérimentation de grands modèles linguistiques au déploiement de systèmes d'IA agentiques en production, de nouveaux défis apparaissent. Les équipes avancent plus vite que jamais, mais souvent dans des directions différentes. Les modèles, les outils, les cadres et les agents se multiplient, et cette croissance entraîne une fragmentation.

Dans un épisode récent de Tesseract Talks, John K. Thompson s'est entretenu avec Nikunj Bajaj, cofondateur et PDG de TrueFoundry, pour explorer ce qu'il faut réellement pour développer l'IA agentique au sein des grandes organisations.

Voici quelques-uns des principaux points à retenir de cette conversation.

Des applications LLM simples aux systèmes agentiques complexes

Les systèmes d'IA ont évolué de façon spectaculaire, en particulier au cours de l'année écoulée.

Ce qui n'était auparavant qu'un seul appel LLM avec un outil est aujourd'hui devenu un réseau de composants travaillant ensemble. Les agents de production combinent généralement :

• Plusieurs LLM (souvent issus de fournisseurs et de clouds)
• Protocoles contextuels modèles (MCP) et outils
• Garde-corps pour la sécurité, la confidentialité et la conformité
• Promptes et logique d'orchestration
• Autres agents, composés hiérarchiquement

Comme Nikunj l'a expliqué, cette complexité n'est pas accidentelle, elle est le résultat naturel de l'augmentation des capacités des agents. Mais cela signifie également que différentes équipes au sein d'une même entreprise créent des agents de manière très différente, en utilisant des piles et des frameworks différents.

Cette flexibilité permet aux équipes d'avancer rapidement. À grande échelle, cela crée également le chaos.

Le véritable défi de l'entreprise : rapidité et contrôle

Les entreprises sont confrontées à la nécessité de trouver un équilibre entre deux forces concurrentes : donner aux équipes l'autonomie nécessaire pour expérimenter et générer de la valeur rapidement, tout en maintenant la cohérence à l'échelle de l'entreprise en matière de sécurité, de gouvernance et de coûts. Nikunj a défini cela comme « une exécution fédérée avec une gouvernance centralisée ».

Très tôt, lorsque les équipes sont petites, l'autonomie fonctionne bien. Mais à mesure que les organisations se développent, les politiques, les budgets et la supervision deviennent essentiels. Les employés humains fonctionnent de manière flexible mais au sein d'un système structuré. L'IA agentique a besoin de la même chose.

L'IA agentique a besoin de la même chose.

C'est là que l'idée d'un Passerelle IA entre. Selon Nikunj, la passerelle a évolué bien au-delà d'un simple proxy pour le routage des requêtes entre les modèles. Aujourd'hui, il devient :

• Un point d'entrée unifié pour les LLM, les MCP, les agents, les invites et les garde-corps
• Une couche de normalisation entre les fournisseurs de cloud et les fournisseurs de modèles
• Un endroit pour appliquer le contrôle d'accès, les limites budgétaires et les politiques de conformité
• Une base pour l'observabilité et le débogage

Bref, il devient le siège de l'agence, le plan de contrôle qui manquait aux entreprises.

Ce que nous pensons du rôle de TrueFoundry

Chez TrueFoundry, nous ne voyons pas l'IA agentique comme une série de projets ponctuels. Nous y voyons une transformation à long terme. Comme Nikunj l'a expliqué, notre objectif est d'aider les entreprises à :

• Préparez leur stack d'IA pour l'avenir à mesure que l'écosystème évolue
• Intégrez de nouvelles fonctionnalités d'agence à l'infrastructure existante
• Évitez le faux choix entre tout construire vous-même et acheter des outils rigides

En fournissant une plateforme flexible pilotée par API, les équipes peuvent s'appuyer sur une base solide et avancer plus rapidement sans perdre le contrôle.

Comme l'a dit Nikunj, « les agents ont besoin de flexibilité pour agir. Les entreprises ont besoin d'un siège social pour les contrôler. »