Points clés
- Le défi pour l’IA en entreprise n’est pas de lancer le premier agent, mais de gouverner de manière cohérente le 10e, le 50e ou le 100e.
- Un modèle opérationnel reproductible nécessite trois couches : un runtime géré, un accès automatisé et une couche opérationnelle pour les outils, l’observabilité, la sécurité et les coûts.
- L’intégration en self-service et les manifests déclaratifs simplifient la structuration des agents IA, tandis que le CI/CD et la politique en tant que code automatisent la sécurité et la gouvernance.
- Les évaluations et l’observabilité répondent à deux questions différentes : le bon agent a-t-il été construit et agit-il correctement en production ?
- La gouvernance doit être intégrée à la plateforme elle-même ; elle ne doit pas être laissée à la charge des équipes individuelles.
Le véritable goulot d’étranglement
Créer le premier agent IA sur AWS est relativement simple. Une équipe sélectionne un modèle de base, construit l’agent, connecte quelques outils ou sources de données, puis le déploie.
Le véritable défi commence lorsqu’une entreprise souhaite passer de quelques expériences à des dizaines voire des centaines d’agents IA répartis entre plusieurs équipes, comptes AWS et unités commerciales.
À ce stade, les questions changent. Quels modèles les équipes peuvent-elles utiliser ? Où l’inférence peut-elle s’exécuter ? À quels systèmes d’entreprise un agent peut-il accéder ? Comment sont gérées les identités et les permissions ? Comment les données sensibles sont-elles protégées ? Qui assume les coûts ? Comment les équipes de sécurité auditent-elles les actions d’un agent ? Et comment une équipe peut-elle savoir qu’un nouveau modèle, un prompt ou un changement d’outil n’a pas réduit la qualité de l’agent ?
Résoudre ces questions séparément pour chaque agent crée une prolifération de l’infrastructure IA. Le défi ne consiste donc pas simplement à fournir l’accès à Amazon Bedrock ; il s’agit de créer un modèle opérationnel répétable pour l’IA en entreprise.
TO THE NEW considère cette base partagée comme un AI Enterprise Core : un modèle de plateforme gouvernée qui offre aux équipes une méthode standardisée pour construire, déployer, connecter, évaluer, sécuriser, observer et exploiter des agents IA sur AWS.
L’objectif est simple : permettre aux équipes de lancer des agents, sans reconstruire l’infrastructure IA à chaque fois.
L'anatomie de la prolifération de l'IA
La prolifération de l’IA commence souvent discrètement. Différentes équipes prennent des choix de conception différents, et chaque agent peut encore fonctionner individuellement. Le problème survient lorsque l’entreprise doit tous les gouverner de manière cohérente.
Question de l’entreprise | Pourquoi c’est important | Conséquences en l’absence de plateforme partagée |
Quels modèles les agents peuvent-ils utiliser ? | Les modèles diffèrent en coût, capacité, risque et disponibilité régionale. | Prolifération des modèles et validations incohérentes. |
Où les charges de travail et les inférences peuvent-elles s’exécuter ? | Les entreprises peuvent avoir des exigences de sécurité, réglementaires et de localisation des données. | Les équipes adoptent des schémas régionaux et réseaux différents. |
À qui appartient l’agent ? | Chaque charge de travail en production doit avoir une propriété technique et métier clairement définie. | Agents orphelins et responsabilité floue. |
À quoi l’agent peut-il accéder ? | Les agents peuvent interagir avec des API, bases de données, référentiels et systèmes d’entreprise. | Modèles d’autorisation différents et intégrations directes disparates. |
Quels outils peut-il exécuter ? | L’accès aux outils détermine ce qu’un agent peut réellement faire. | Serveurs MCP non gérés et accès non contrôlé aux outils. |
Comment les données sensibles sont-elles protégées ? | Les prompts, réponses et outils peuvent traiter des informations confidentielles. | Contrôles incohérents des données à caractère personnel et du contenu. |
Comment une équipe sait-elle que l’agent fonctionne toujours correctement ? | Les modifications du modèle, du prompt, de l’outil et de l’orchestration peuvent affecter la qualité et le comportement. | Des régressions peuvent atteindre la production sans être détectées. |
Qui prend en charge le coût de l’IA ? | L’utilisation des modèles peut augmenter rapidement au sein des équipes. | Les dépenses ne peuvent pas être facilement attribuées à un cas d’usage ou une équipe. |
L’équipe peut-elle tracer ce que l’agent a fait ? | Le dépannage nécessite une visibilité complète sur les appels aux modèles et aux outils. | Journaux fragmentés et pistes d’audit insuffisantes. |
Aucune de ces questions n’est difficile pour un seul agent. Le défi est d’y répondre de la même manière pour chaque agent.
Le plan directeur en 3 couches
Une plateforme IA d’entreprise évolutive peut répondre à ces questions à travers trois couches interconnectées.
Couche | Ce qu’elle fournit | Problème qu’elle résout |
Exécution gérée et cadre | Exécution des agents, orchestration, isolation des sessions, mémoire, identité et mise en réseau | Élimine la nécessité de reconstruire l’infrastructure des agents de manière répétée |
Passerelle automatisée | Manifeste, CI/CD, infrastructure as code, policy-as-code et contrôles de déploiement | Assure que chaque agent passe les mêmes vérifications avant déploiement |
Couche opérationnelle | Passerelle, gouvernance MCP/outils, garde-fous, évaluations, observabilité et FinOps | Maintient la cohérence de la qualité, de la sécurité, des accès et des contrôles des coûts |
Couche 1 – Exécution gérée et cadre
Amazon Bedrock AgentCore propose des capacités gérées pour exécuter des agents IA d’entreprise.
AgentCore Runtime prend en charge les équipes qui souhaitent apporter leur propre code agent et cadre d’orchestration. AgentCore Harness monte d’un cran en simplifiant l’orchestration autour du modèle, des instructions, des outils, des compétences, de la mémoire, de l’identité, de la mise en réseau et de l’observabilité.
Cela offre aux entreprises une flexibilité : les cas d’usage standardisés peuvent utiliser un cadre géré, tandis que les équipes nécessitant un contrôle plus fin sur le comportement de l’agent peuvent utiliser Runtime. Les deux peuvent suivre le même modèle de gouvernance d’entreprise.
La plateforme peut également définir des schémas standards pour les modèles approuvés, IAM, images de conteneurs, mise en réseau, journalisation, traçage et configuration des agents.
Pour les grandes organisations, les agents n’ont pas besoin de fonctionner dans un compte AWS centralisé. Les charges de travail peuvent rester dans les comptes appropriés des unités commerciales tout en laissant la plateforme gouverner et contrôler les politiques de manière centralisée.
Couche 2 – Passerelle automatisée
La deuxième couche contrôle la manière dont un agent entre sur la plateforme. Plutôt que d’exiger que chaque équipe comprenne l’ensemble de l’infrastructure, les développeurs fournissent un manifeste déclaratif simple. Par exemple :
Agent + Propriétaire + Environnement + Centre de coût + Modèle + Outils + Mémoire + Classification des données
Le manifeste devient le contrat entre l’équipe de développement et la plateforme. Un développeur le soumet via Git ou un portail développeur interne. Le CI/CD et le policy-as-code vérifient alors :
- Le modèle est-il approuvé ?
- La région est-elle autorisée ?
- Les tags de propriété et de coût sont-ils présents ?
- L’observabilité est-elle activée ?
- Les outils demandés sont-ils autorisés ?
- Les garde-fous requis sont-ils présents ?
- Les contrôles d’évaluation sont-ils définis pour cet agent ?
Ce n’est qu’après la réussite de ces vérifications que l’infrastructure as code provisionne l’environnement de l’agent. Cela crée un point d’entrée contrôlé pour l’IA d’entreprise.
Couche 3 – Couche opérationnelle
La gouvernance doit se poursuivre après le déploiement.
AgentCore Gateway peut fournir un chemin contrôlé vers les API d’entreprise, les outils et les intégrations MCP, au lieu que chaque agent crée ses propres connexions point à point. Les garde-fous aident à gérer les informations sensibles, les contenus indésirables et les risques liés aux prompts.
Les politiques IAM et d’autorisation contrôlent ce à quoi un agent peut accéder. Les contrôles de modèle définissent quels modèles de base les équipes peuvent utiliser. L’observabilité crée des preuves des actions réellement effectuées par l’agent.
Les évaluations apportent un contrôle supplémentaire important : l’agent se comporte-t-il toujours comme prévu ? Une plateforme peut évaluer la qualité des réponses, l’accomplissement des tâches, la sélection des outils, la sécurité et les régressions entre différentes versions d’agents.
Le résultat est un modèle opérationnel à couches :
Identité + Réseau + Modèles approuvés + Garde-fous + Outils gouvernés + Évaluations + Observabilité + Contrôles des coûts
Approvisionnement en moins de 5 minutes
La gouvernance ne fonctionne à grande échelle que lorsque le chemin gouverné est aussi le chemin le plus simple. Si l’intégration sécurisée prend des semaines, les équipes chercheront naturellement des raccourcis.
Une expérience cible d’intégration peut ressembler à :
Portail développeur / Git → Manifest → CI/CD → Contrôles de conformité → Provisionnement → Évaluation → Agent gouverné
Le développeur décrit l’agent une seule fois. La plateforme gère les tâches répétitives.
Fournis par le développeur | Fourni par la plateforme |
Nom et propriétaire de l’agent | Runtime ou Harness |
Unité métier et centre de coûts | IAM et modèle d’identité |
Modèle approuvé | Configuration d’inférence |
Outils requis | Passerelle et connectivité MCP |
Exigence mémoire | Configuration mémoire |
Classification des données | Garde-fous et politiques |
Critères d’évaluation | Flux de travail d’évaluation standard |
Environnement | Compte, région et réseau |
Application ou conteneur | Déploiement, journalisation, traçabilité et étiquetage |
La plateforme applique donc les contrôles de sécurité, réseau, observabilité, évaluation et coûts pendant le cycle de vie de la livraison, et non après la mise en production.
AgentCore Harness peut simplifier davantage ce processus pour les cas d’usage adaptés, car les équipes peuvent définir une grande partie du comportement de l’agent par une configuration gérée plutôt que de créer une orchestration à partir de zéro.
L’objectif est d’automatiser les contrôles d’ingénierie répétitifs tout en conservant la revue humaine pour les données sensibles, les nouveaux modèles, les nouveaux outils ou les cas d’usage à risque accru.
Gouvernance opérationnelle
Les questions soulevées par la prolifération des IA persistent tout au long du cycle de vie des agents.
Question | Comment la plateforme y répond |
Quels modèles les agents peuvent-ils utiliser ? | Maintenir un catalogue de modèles approuvés et appliquer les politiques liées aux modèles et aux régions. |
Où les charges de travail peuvent-elles s’exécuter ? | Définir de manière centralisée les régions, comptes, frontières réseau et schémas d’inférence approuvés. |
Qui est propriétaire de l’agent ? | Rendre obligatoires les métadonnées concernant le propriétaire, l’unité commerciale, l’environnement et le centre de coûts. |
À quoi l’agent peut-il accéder ? | Utiliser le principe du moindre privilège avec des IAM et des identités d’entreprise gouvernées. |
Quels outils peut-il exécuter ? | Exposer les outils approuvés via la Gateway et appliquer des politiques d’autorisation. |
Comment les données sensibles sont-elles protégées ? | Associer des garde-fous, la classification, la connectivité privée et l’autorisation des outils. |
L’agent fonctionne-t-il correctement ? | Réaliser des évaluations portant sur la qualité des réponses, la réussite des tâches, l’usage des outils, la sécurité et les régressions. |
L’équipe peut-elle retracer ce qui s’est passé ? | Standardiser les journaux, métriques et le traçage basé sur OpenTelemetry tout au long du flux de l’agent. |
Qui porte le coût ? | Reporter les métadonnées de propriétaire dans l’utilisation des modèles et de l’infrastructure pour l’attribution FinOps. |
Les évaluations deviennent particulièrement importantes à mesure que les agents évoluent. Modifier une requête peut améliorer un cas d’usage tout en dégradant la qualité d’un autre. Un modèle différent peut réduire les coûts tout en modifiant le comportement de réponse. Un nouvel outil peut accroître les capacités mais aussi introduire des chemins d’exécution imprévus.
Une plateforme gouvernée doit donc considérer l’évaluation comme une partie intégrante du cycle de vie du lancement, et non comme un test ponctuel. Les équipes peuvent maintenir des jeux de données tests représentatifs et évaluer des aspects tels que la pertinence des réponses, la réussite des tâches, la sélection des outils, la sécurité, la latence et les régressions. Elles peuvent ensuite comparer les nouvelles versions aux précédentes avant leur mise en production.
Cela crée un cycle de vie plus maîtrisé :
Concevoir → Évaluer → Déployer → Observer → Améliorer
L’observabilité fournit alors la vision en production :
Utilisateur → Agent → Modèle → Outil → Système d’entreprise → Modèle → Réponse
Ensemble, évaluations et observabilité répondent à deux questions distinctes : l’agent construit est-il le bon, et se comporte-t-il correctement en production ?
Le principe clé est simple : la gouvernance ne doit pas dépendre du souvenir de chaque contrôle par chaque équipe de développement. La plateforme doit l’intégrer de manière native.
Conclusion clé : la répétabilité est la véritable référence
La différence entre une preuve de concept en IA et une plateforme IA d’entreprise réside dans la répétabilité.
Une preuve de concept démontre qu’un agent IA peut fonctionner. Une plateforme prouve que les équipes peuvent déployer les 10, 50 ou 100 agents suivants sans reconstruire à chaque fois la sécurité, le réseau, la gouvernance, l’évaluation, l’observabilité et le contrôle des coûts.
Une plateforme IA d’entreprise pragmatique sur AWS combine un runtime et une orchestration gérés, un onboarding déclaratif, l’infrastructure as code, la policy-as-code, des modèles fondamentaux approuvés, des outils gouvernés et des intégrations MCP, des garde-fous, des évaluations, une observabilité centralisée et une responsabilité claire des coûts.
La véritable mesure du succès n’est pas que le premier agent atteigne la production. C’est que le 100e agent respecte les mêmes exigences de sécurité, qualité, gouvernance, observabilité et conformité que le premier.
C’est ainsi que les entreprises passent de la création d’agents IA individuels à l’exploitation de l’IA à grande échelle.