Conformité SAP Joule

Et maintenant, SAP Joule doit aussi vivre selon ma volonté

Dans la ballade de Johann Wolfgang von Goethe, on peut lire : "Si le vieux sorcier s'en est allé une fois ! Et maintenant, que ses esprits vivent aussi selon ma volonté". Selon les idées de SAP, l'utilisateur ERP doit s'emparer de l'agent IA Joule pour que celui-ci prenne en charge les tâches. La technique pour y parvenir est très avancée. Il manque toutefois un cadre d'ordre et de contrôle. Il manque un cadre d'IA qui contrôle et orchestre les agents IA.

Actuellement, différents fournisseurs tentent de mettre en place des plateformes d'intelligence artificielle pour les agents intelligents. Certains proposent de piloter et de gérer les futurs agents IA de la même manière que les employés : un agent IA Capital Management, IA-ACM par opposition à HCM. Mais pour les questions de responsabilité et de conformité, cette approche semble trop limitée.

La conformité ERP n'est pas un jardin d'enfants

L'un des grands problèmes de l'informatique est de prouver l'exactitude des algorithmes par des moyens mécaniques et mathématiques. Un processus financier peut être testé des millions de fois avec des millions de données, mais il n'est pas possible de dire avec certitude si l'algorithme ERP est correct. Il suffit ici de se référer à Sir Karl Popper et à son falsificationnisme : Les falsifications sont des affirmations sur des faits empiriques, comme par exemple un algorithme ERP, et ne peuvent donc pas être décidées définitivement, tout comme les théories. Selon Sir Karl Popper, un nombre enfin important d'observations (tests itératifs dans un système ERP) ne permettent pas de tirer des conclusions logiquement valables sur les algorithmes, qui constituent le noyau des théories scientifiques. Son contre-projet est le falsificationnisme : les théories peuvent être prouvées ou falsifiées par des tests empiriques, mais jamais vérifiées.

La logique et les mathématiques ne peuvent donc pas être utilisées pour déterminer le comportement correct et basé sur des règles d'un système de comptabilité. Il faut que ce soit l'homme qui délivre une attestation à un système conformément aux règles générales et certifie ainsi sa conformité.

Quelle est la place de l'agent IA dans cet univers de la conformité ? Est-il un élément passif qui doit se soumettre à un contrôle de conformité ou y aura-t-il des agents IA de conformité qui accompagneront activement le travail de leurs collègues artificiels ? C'est probablement similaire à la conduite autonome : Qui assume la responsabilité finale ?

Concours d'agents IA

La réglementation et l'orchestration de la conformité d'un système d'IA comme SAP Joule ne mettent pas fin au débat. Il est probable que les systèmes composables d'entreprise comporteront de nombreux agents d'IA de différents fournisseurs.

Depuis de nombreuses années, on discute d'une possible entreprise composable. Ce discours sur l'ERP est similaire à la discussion sur l'intelligence artificielle qui dure depuis des décennies. Ce n'est qu'avec la disponibilité à grande échelle d'un matériel performant que l'on est passé de la théorie à la pratique. Les modèles de réseaux neuronaux ont pris vie grâce à l'utilisation massive de cartes graphiques. Grâce à la rétroaction, les systèmes d'IA se sont améliorés et sont actuellement connus sous le nom de Large Language Models (LLMs).

L'entreprise composable pourrait trouver sa place dans le quotidien opérationnel des ERP grâce à l'utilisation massive d'agents IA. Un système ERP n'est toutefois pas seulement un ensemble d'algorithmes et de données, mais aussi une structure évaluée en termes de cohérence et de traçabilité. Des agents IA contradictoires de différents fournisseurs dans un ERP composable seraient alors un méga-GAU.

Très concrètement, la question se posera alors : L'agent IA de Salesfore peut-il aussi faire un peu d'ERP ou doit-il laisser le domaine CRM à l'agent IA de SAP Joule ? Quel est le système leader ? Cette question est posée depuis plusieurs décennies et il n'y a toujours pas de réponse. Il est probable que même les agents IA n'y trouveront pas de solution. Une conformité des agents IA sera nécessaire !