Gouvernance des agents IA en supply chain : qui contrôle quoi
La gouvernance des agents IA en supply chain tient dans une charte écrite avant la première action : périmètre, seuils, journal, veto. Huit points à fixer, jusqu'à la clause de responsabilité du contrat éditeur.
L'essentiel
La gouvernance des agents IA en supply chain tient dans une charte écrite avant la première action : périmètre, seuils, journal, veto. Huit points à fixer, jusqu'à la clause de responsabilité du contrat éditeur.
La gouvernance des agents IA en supply chain commence par une charte écrite
La question de savoir jusqu'où déléguer une décision à un agent, selon l'enjeu et la réversibilité, a déjà été traitée sur ce blog et je ne la rouvre pas ici. Ce qui m'intéresse est le document qui vient après cette réflexion : la charte de gouvernance, celle qui dit noir sur blanc ce que l'agent a le droit de faire, qui le surveille, qui l'arrête et qui répond de ses erreurs. Dans les systèmes d'IA que j'ai vus partir en production, ce document existait rarement au démarrage, et il était rédigé dans l'urgence après le premier incident, ce qui est la pire façon de l'écrire. Une charte utile tient en quelques pages, elle est portée par le directeur supply chain, cosignée par la DSI pour la partie technique et par la direction financière pour les seuils, et elle est relue à date fixe. Les sections qui suivent en sont la table des matières, dans l'ordre où je conseille de la remplir.
Le périmètre d'action en liste blanche
Le premier point de la charte est une liste, et le principe de cette liste est que tout ce qui n'y figure pas est interdit. On y inscrit les systèmes auxquels l'agent accède et en quel mode, lecture seule ou écriture, ainsi que les actions qu'il peut exécuter seul, par exemple créer une proposition de commande sur les références de classe C d'un site donné. On y inscrit aussi les familles de produits, les sites et les fournisseurs sur lesquels il peut agir, et les montants unitaires qu'il ne peut pas dépasser. Une liste noire explicite complète le dispositif pour lever toute ambiguïté : les clients stratégiques, les prix de vente, les données de personnel et les engagements contractuels avec un fournisseur restent hors de portée, quel que soit le contexte. Le périmètre s'élargit par décision de la revue périodique, jamais par une demande passée un vendredi soir parce qu'une rupture menace, et il se rétrécit après un incident sans attendre la revue. Un éditeur sérieux applique cette liste techniquement, côté plateforme, plutôt que de la laisser à la bonne volonté de l'agent, et c'est un point à vérifier en démonstration.
Les seuils au-delà desquels l'agent propose au lieu d'agir
Le deuxième point transforme la frontière de délégation en chiffres. Il faut fixer un seuil en euros par action, un seuil en volume ou en écart par rapport à l'habitude, par exemple toute commande supérieure au double de la moyenne des douze dernières semaines, et un seuil de cadence. Ce dernier compte parce qu'un agent qui passe cent petites commandes conformes en une heure produit un effet qu'aucune d'elles ne produirait seule. Les seuils cumulés sont ceux qu'on oublie le plus souvent, alors qu'ils sont ceux par lesquels un agent mal calibré vide un budget en restant dans les clous à chaque action. Au-dessus d'un seuil, l'agent prépare le dossier et la personne désignée tranche ; en dessous, il exécute et le journal en garde la trace. Ces chiffres appartiennent à la direction financière autant qu'à la supply chain, puisqu'ils fixent l'exposition maximale de l'entreprise à une erreur de machine, et ils doivent être revus quand l'activité change de volume, à la hausse comme à la baisse.
Un journal des décisions que l'on peut rejouer
Le troisième point distingue le journal technique, qui existe dans n'importe quel logiciel, du journal de décision, qui manque dans presque tous. Pour chaque action ou proposition, il faut conserver les données d'entrée telles qu'elles étaient à cet instant, la version des règles et du modèle qui ont tourné, et les options qui ont été envisagées. Il faut y ajouter celle qui a été retenue et pourquoi, puis ce que l'humain en a fait s'il était dans la boucle. Rejouable veut dire qu'on peut reprendre un épisode de mars avec les stocks, les délais et les commandes de mars et vérifier que l'agent aurait produit la même recommandation, ce qui est la seule manière d'instruire un incident sans se fier à la mémoire de chacun. Ce journal a des lecteurs désignés, une durée de conservation cohérente avec vos obligations contractuelles et comptables, et il s'exporte dans un format lisible sans l'éditeur, parce qu'un journal qu'on ne peut lire que dans l'outil du fournisseur disparaît avec lui. Il devient, au passage, la mémoire des décisions que l'entreprise n'a jamais eue, et c'est peut-être sa valeur la plus durable.
Droit de veto, arrêt d'urgence et revue périodique
Le quatrième point nomme les personnes. Le droit de veto est individuel : une personne identifiée par site ou par famille peut refuser une proposition et annuler une action dans le délai où elle est encore réversible, et son refus est enregistré avec son motif, ce qui alimente la revue. L'arrêt d'urgence est collectif : il coupe l'agent sur tout le périmètre, en laissant l'ERP dans un état cohérent, et la charte dit qui a le droit de l'actionner sans demander l'autorisation à personne, ce qui doit inclure au moins une personne présente en dehors des heures de bureau. La revue périodique, mensuelle pendant les six premiers mois puis trimestrielle, regarde des indicateurs simples, le taux de propositions acceptées, le nombre d'actions annulées et leur motif, les cas où l'agent a touché un seuil, et la dérive de ses résultats par rapport au pilote. C'est là que se décide l'élargissement ou la restriction du périmètre, et c'est là aussi que l'on tire les leçons des erreurs, parce qu'un agent se trompera, comme le plan se trompe. Ce qui distingue une gouvernance vivante d'une gouvernance de papier est la vitesse à laquelle les humains ajustent ses règles après coup.
Responsabilité en cas d'erreur, et ce que doit dire le contrat
Le dernier point est celui que les juristes posent en premier. Un logiciel ne signe rien, et la commande passée par un agent engage l'entreprise qui lui a ouvert l'accès, avec en interne un sponsor nommé qui répond des règles, des seuils et des revues. Le contrat avec l'éditeur doit alors préciser plusieurs choses que les conditions générales standard passent sous silence. D'abord que le périmètre et les seuils sont appliqués côté plateforme et non seulement configurables, et que toute modification du modèle sous-jacent vous est notifiée avant sa mise en production avec la possibilité de la refuser. Ensuite que le journal de décision est exportable à tout moment dans un format ouvert, et que vos données ne servent pas à entraîner un modèle partagé avec d'autres clients sans votre accord écrit. Enfin que l'arrêt d'urgence est garanti par un engagement de service chiffré, et ce que couvre exactement la limitation de responsabilité de l'éditeur quand une action de l'agent cause un dommage. Sur le plan réglementaire, le règlement européen sur l'IA ne classe pas, à ma connaissance, le pilotage des stocks et des approvisionnements parmi les usages à haut risque, dont le calendrier a d'ailleurs été repoussé à fin 2027 par l'omnibus numérique adopté en juillet 2026. Les obligations générales de transparence et de documentation s'appliquent en revanche depuis août 2026 et le calendrier a déjà bougé plusieurs fois, ce qui justifie une vérification avec votre conseil au moment de signer. Le contrat doit dire qui, de vous ou de l'éditeur, tient cette documentation, parce que si personne n'est nommé, personne ne la tiendra.
Cet article part d'une conviction : la prévision parfaite n'existe pas, ce qui compte c'est la décision d'après.
- La gouvernance des agents IA en supply chain commence par une charte écrite
- Le périmètre d'action en liste blanche
- Les seuils au-delà desquels l'agent propose au lieu d'agir
- Un journal des décisions que l'on peut rejouer
- Droit de veto, arrêt d'urgence et revue périodique
- Responsabilité en cas d'erreur, et ce que doit dire le contrat
Clevizio
Clevizio est la couche de décision qui se branche sur vos outils existants : elle détecte l'imprévu, simule vos options et garde la mémoire de chaque arbitrage. Découvrir comment fonctionne le copilote de décision.
Nelson Mukuze
CTO & CAIO, cofondateur de Clevizio
Une question sur vos imprévus ? Réservez 30 minutes avec moi pour estimer ce qu'ils vous coûtent vraiment, sans engagement.
Questions fréquentes
Qui est responsable quand un agent IA se trompe ?
L'entreprise qui lui a donné accès à ses systèmes, avec en interne un sponsor nommé qui répond des règles et des seuils. Le logiciel ne signe rien. La responsabilité de l'éditeur se limite à ce que le contrat prévoit, d'où l'importance de préciser ce que couvre sa limitation de responsabilité et ce qu'il garantit techniquement, comme l'application des seuils côté plateforme et l'arrêt d'urgence.
Qu'est-ce qu'une liste blanche pour un agent IA ?
La liste explicite de ce que l'agent a le droit de faire, tout le reste étant interdit par défaut. Elle nomme les systèmes accessibles et en quel mode, les actions autorisées seul, les familles, sites et fournisseurs concernés, et les montants maximaux. Elle s'élargit par décision de revue périodique et se rétrécit immédiatement après un incident.
Que doit contenir le contrat avec un éditeur d'agent IA ?
Au minimum six clauses, du périmètre et des seuils appliqués côté plateforme à la définition précise de ce que couvre la limitation de responsabilité. Entre les deux : notification préalable de tout changement de modèle, journal de décision exportable dans un format ouvert, interdiction d'entraîner un modèle partagé sur vos données sans accord écrit, et engagement de service sur l'arrêt d'urgence. Ajoutez qui tient la documentation exigée par le règlement européen sur l'IA.
À lire aussi
Mettez enfin un chiffre sur ce que vos imprévus vous coûtent chaque année.
Commençons par estimer ce que vos imprévus vous coûtent réellement. C'est gratuit, ça prend 30 minutes, et vous repartez avec un chiffre que personne dans votre entreprise ne connaît aujourd'hui.