Votre usine aura des agents d'IA qui décident. Mais qui est responsable quand l'agent se trompe ?
Pendant des années, la conversation sur l'IA dans les opérations industrielles est restée au même point : le système analyse les données, suggère la maintenance préventive, indique le lot idéal. Un humain approuve. L'humain est responsable.
Ce modèle est en train d'être remplacé — et pas progressivement.
L'IA agentique ne recommande pas. Elle agit. Elle annule la commande auprès du fournisseur en retard. Elle réoriente la production pour compenser une variation de demande. Elle déclenche la maintenance avant que le technicien ne perçoive le problème. Elle renégocie des paramètres de contrat dans les limites que quelqu'un, à un moment, a configurées.
La question que la plupart des entreprises ne se sont pas encore posée : quand l'agent prend la mauvaise décision — et il le fera, à un moment — qui est responsable ?
La différence qui change tout
La distinction entre IA générative et IA agentique n'est pas technique. Elle est opérationnelle.
L'IA générative produit. Elle écrit, analyse, résume, répond. Le résultat est du texte, du code, une image. Un humain décide quoi en faire.
L'IA agentique exécute. Elle se connecte à vos systèmes, accède à vos outils, agit dans votre environnement. Le résultat n'est pas un document — c'est une action qui a déjà eu lieu.
Deloitte projette une croissance de 4x de l'adoption de l'IA agentique dans la manufacture en 2026 — de 6 % à 24 % des entreprises. La Mayfield CXO Survey 2026 le confirme : 42 % des entreprises ont déjà des agents en production. Soixante-douze pour cent sont en production ou en pilote actif.
La vitesse d'adoption n'attend pas que les cadres de gouvernance mûrissent. Elle crée des faits opérationnels pendant que les politiques s'écrivent encore.
Le déficit de responsabilité
Le modèle mental que la plupart des dirigeants utilisent encore pour penser l'IA est le modèle de l'outil : vous utilisez l'outil, vous êtes responsable de ce que vous en faites.
Avec des agents autonomes, ce modèle s'effondre.
Un agent qui opère dans un pipeline de décision peut prendre des dizaines d'actions par heure. Certaines déclencheront des alertes. La plupart, non. Quand l'impact apparaît — une commande annulée à tort, une maintenance déclenchée qui a causé un arrêt non planifié, une renégociation contractuelle aux paramètres mal calibrés — la chaîne de causalité est rarement évidente.
Le rapport State of AI Agent Governance 2026 a résumé le problème avec précision : les plus grands écarts ne sont pas dans la qualité du modèle. Ils sont dans la gouvernance en temps d'exécution. Qui peut agir, avec quelle autorité, dans quelle limite, avec quelle piste d'audit.
Aucune de ces questions n'est tranchée par le fournisseur de l'agent. Elles le sont — ou non — par l'entreprise qui l'a déployé.
La vitesse qui amplifie le risque
L'argument en faveur des agents autonomes est juste : des décisions rapides, sans friction humaine, scalables. En supply chain, cela veut dire réagir en quelques minutes à un événement qui prend aujourd'hui des heures ou des jours à traiter.
Le problème, c'est que la même vitesse qui constitue la proposition de valeur est ce qui amplifie les erreurs.
Un humain qui prend une mauvaise décision la prend une fois. Il s'en aperçoit. Il corrige. Un agent qui opère avec un paramètre mal calibré peut répéter l'erreur systématiquement pendant des heures avant que quelqu'un ne repère le schéma. Dans des opérations de production critiques, cette fenêtre suffit à créer un problème d'approvisionnement, un arrêt de ligne ou un passif contractuel.
Gartner estime que plus de 40 % des projets d'IA agentique seront annulés d'ici 2027 faute de contrôles du risque et en raison d'une valeur incertaine. Ce que Gartner ne calcule pas : combien de ces annulations interviendront après un incident opérationnel qui aurait pu être évité.
Ce que Magellan constate en pratique
Dans les diagnostics que Magellan mène sur des opérations ayant déjà entamé des parcours d'IA agentique, la première demande est directe : montrez-moi le document qui définit quelles actions l'agent peut prendre de façon autonome, lesquelles exigent une approbation humaine, et qui est notifié quand l'agent opère aux limites de son périmètre.
Dans la plupart des cas, ce document n'existe pas.
Non par négligence. Parce que le déploiement a été conduit comme un projet technologique — avec des critères de performance technique, de ROI et de vitesse de déploiement. La structure de responsabilité opérationnelle n'a jamais fait partie du périmètre.
Magellan utilise l'IA pour cartographier les flux de décision que les agents vont intercepter — en identifiant où l'autonomie crée de la valeur et où elle crée un risque non couvert. Le résultat de ce diagnostic est un cadre d'autorité : ce que l'agent peut faire seul, ce pour quoi il a besoin d'une approbation, et ce qu'il ne doit jamais faire sans revue humaine.
Sans ce cadre, l'agent n'est pas un collaborateur. C'est un risque doté d'une interface conviviale.
Le point inconfortable
La plupart des dirigeants industriels sont, en ce moment, dans l'une de deux positions : ils n'ont pas encore déployé d'IA agentique et prévoient de le faire dans les 12 prochains mois — ou ils l'ont déjà déployée et ne savent pas vraiment ce que l'agent fait pendant que personne ne regarde.
Les deux positions ont le même problème.
Une technologie qui agit en votre nom, dans vos systèmes, avec vos données, a besoin d'un propriétaire opérationnel — pas d'un propriétaire technologique. Quelqu'un qui répond de ce que l'agent a décidé, qui peut arrêter l'agent au besoin, qui a l'autorité de calibrer les limites de ce qu'il peut faire.
Dans les entreprises qui construisent cela correctement, ce rôle existe avant que l'agent n'entre en production. Dans celles qui ne le font pas, il existera après le premier incident.
Question finale : Si un agent d'IA dans votre opération prenait une mauvaise décision maintenant — sauriez-vous au bout de combien de temps ? Et qui en serait responsable ?