La discussion sur les systèmes agentiques se concentre souvent sur la capacité: outils disponibles, planification, nombre d'étapes exécutables. C'est utile pour les démonstrations, insuffisant pour la production.
La production exige une autre question: que peut voir, interrompre et restreindre l'opérateur pendant l'exécution?
Orchestration et contrôle
L'orchestration est la logique interne de l'agent: sélection d'outils, séquencement, récupération d'erreurs et gestion du contexte. Le plan de contrôle est la capacité externe d'observer, limiter et intervenir sans dépendre du raisonnement interne.
Les incidents ne viennent pas seulement d'un mauvais outil choisi. Le risque le plus sérieux est l'impossibilité d'arrêter, d'expliquer ou de limiter une exécution inattendue.
Primitives de contrôle
Visibilité d'exécution. L'opérateur doit savoir ce que fait l'agent, ce qu'il a fait récemment et quels appels d'outils sont en attente. Cela demande des événements structurés.
Conditions d'interruption. Des règles doivent suspendre ou terminer une exécution lorsque budget, temps, séquence d'outils ou politique sont violés.
Portes d'approbation. Les actions irréversibles, écritures et appels externes sensibles nécessitent une approbation avant exécution.
Replay et attribution. Une exécution doit pouvoir être reconstruite à partir de l'état initial, des entrées, des sorties d'outils et des réponses du modèle.
Le contrat opérationnel
Un runtime agentique de production doit exposer ce qui est observable, contraignable, les conditions d'arrêt et les preuves conservées.
Les frameworks rendent les agents capables. Le plan de contrôle rend les systèmes exploitables.