Sémantique des progiciels de gestion intégrée (ERP) et orchestration de l'IA avec Hilbert, Gödel et Turing

Système ERP de référence

Alors que, pendant des décennies, le grand livre déterministe et rigide (System of Record) était considéré comme le fondement incontestable de l’ERP, la direction, autour de Christian Klein, PDG de SAP, prône désormais une ère dans laquelle l’interface utilisateur Joule Work, des centaines d’agents IA autonomes (Agentic AI) et le Knowledge Graph, sur la plateforme de base de données HANA, sont censés piloter les processus métier centraux en grande partie sans intervention humaine.

On laisse entendre au client existant que la combinaison du Knowledge Graph, de la consolidation sémantique et de l’orchestration autonome ouvre la voie à une nouvelle dimension d’efficacité, de traçabilité et de conformité automatisée. Mais du point de vue d’un client SAP existant, la question se pose : un tel système ERP basé sur l’IA, stochastique et autonome, peut-il jamais offrir une certitude absolue, une traçabilité sans faille et une exactitude démontrable ?

La réponse apportée par l'informatique théorique et la théorie de la connaissance est sans équivoque : non.

La promesse d’un univers opérationnel d’IA infaillible et autonome se heurte inévitablement aux lois mathématiques fondamentales de David Hilbert, Kurt Gödel et Alan Turing. Le malentendu hilbertien : le rêve d’une vérité mécanisable ! Pour comprendre la portée du débat actuel, il est utile de se pencher sur le Congrès international des mathématiciens de 1928. C'est là que le mathématicien allemand David Hilbert a formulé son célèbre programme de recherche, qui visait à asseoir l'ensemble des mathématiques sur un fondement formel inébranlable. Le rêve de Hilbert reposait sur trois piliers :

Consistance : La certitude absolue qu'il n'est jamais possible de déduire des propositions contradictoires à partir des axiomes du système.

Exhaustivité : La garantie que toute affirmation vraie au sein du système peut également être démontrée formellement.

Décidabilité (problème de décision) : L'existence d'un procédé mécanique (d'un algorithme) qui, en un nombre fini d'étapes, détermine si n'importe quelle proposition est vraie ou fausse.

Conformité aux exigences d'audit et cohérence dans un système ERP classique

Le système ERP traditionnel, de R/3 à S/4 en passant par ECC, constituait une tentative sur le plan économique et organisationnel de transposer l'idéal de Hilbert dans la pratique d'entreprise. Un ERP classique est un système déterministe : des règles fixes, des clés de comptabilisation, des validations et des bases de données cohérentes garantissent que, dans des conditions identiques, une entrée A entraîne toujours le résultat B exact et vérifiable.

La comptabilité générale, la conformité fiscale et la conformité aux exigences d'audit reposent entièrement sur cette attente hilbertienne d'une cohérence déterministe. Lorsque SAP tente désormais de remplacer progressivement ce système déterministe par des agents d’IA autonomes, on part du principe erroné que le monde stochastique de l’IA peut s’intégrer sans heurts dans l’ordre mécanisable de Hilbert.

Le théorème d'incomplétude de Gödel : pourquoi aucune architecture d'IA ne peut être absolument infaillible !

Le rêve de David Hilbert s'est brisé dès les années 1930 et 1931 face au génie du mathématicien autrichien Kurt Gödel. Avec ses théorèmes d'incomplétude, Gödel a démontré mathématiquement, de manière rigoureuse, que tout système formel suffisamment puissant capable de décrire l'arithmétique est soit incomplet, soit incohérent. Au sein d’un tel système, il existe toujours des propositions qui sont vraies, mais qui ne peuvent être ni prouvées ni réfutées à l’aide des moyens offerts par le système. Gödel a démontré que les systèmes formels complexes se heurtent à des limites fondamentales dès lors qu’ils possèdent une autoréférence ou une puissance d’expression suffisante.

Pour la recherche moderne en IA et l'« SAP Autonomous Enterprise », cette affirmation a des conséquences bouleversantes, qui ont été clairement mises en évidence dans des travaux scientifiques récents :

Les hallucinations ne sont pas des erreurs d'entraînement : le phénomène dit d'« hallucination de l'IA », dans lequel un modèle linguistique ou un agent génère des données plausibles mais factuellement erronées, n'est pas un bug logiciel temporaire que l'on pourrait éliminer en augmentant la quantité de données d'entraînement, en utilisant des GPU plus puissants ou en augmentant le nombre de paramètres.

Incomplétude structurelle (Structural Hallucination) : les grands modèles linguistiques et les agents génératifs reposant sur des théories formelles de l'apprentissage et des modèles de calculabilité, ils sont directement soumis aux limites de Gödel. Dès qu’un système d’IA est suffisamment complexe pour prendre des décisions autonomes concernant des processus métier, il présente inévitablement, d’un point de vue mathématique, des angles morts.

Ce n'est pas une „ machine à vérité “ infaillible : une IA fonctionnant de manière stochastique ne peut jamais, d'un point de vue physique et mathématique, atteindre une probabilité de défaillance ou d'erreur exactement nulle. Quiconque prétend qu’un agent d’IA agit dans le grand livre comptable avec une « certitude absolue » ignore les lois fondamentales de l’informatique théorique.

Le problème d'arrêt de Turing : l'imprévisibilité des agents autonomes

Ce que Gödel a démontré pour la logique mathématique, Alan Turing l'a transposé en 1936 à l'informatique et à la théorie de la calculabilité grâce à sa construction mathématique de la machine de Turing. Turing a démontré l'inrésolvabilité du problème de l'arrêt : il ne peut exister d'algorithme universel capable de déterminer à l'avance, pour n'importe quel programme informatique et n'importe quelle entrée, si le programme s'arrêtera un jour ou s'il restera prisonnier d'une boucle infinie. Si l’on transpose la démonstration de Turing à la SAP Autonomous Suite et à l’interaction entre des architectures d’agents à plusieurs niveaux (Agent2Agent), le risque opérationnel pour le directeur financier et le responsable de l’infrastructure informatique apparaît clairement :

Un réseau d'agents IA autonomes, qui comparent les offres au-delà des limites du système, réorganisent les chaînes d'approvisionnement ou valident les paiements, constitue un système complexe et dynamique. Il est mathématiquement impossible de garantir a priori, à l'aide d'un algorithme de vérification de niveau supérieur, qu'un réseau d'agents autonomes se terminera correctement dans toutes les conditions de fonctionnement imaginables et n'effectuera jamais de transactions erronées ou nuisibles.

Le paradoxe de la transparence : alors que le code ABAP traditionnel peut être analysé de manière approfondie, ligne par ligne, dans le débogueur, le raisonnement des grands modèles linguistiques repose sur des vecteurs à haute dimension (voir également le moteur vectoriel de la plateforme de base de données HANA) et sur des poids statistiques (voir également les LLM à poids ouverts).

La décision d'un agent peut certes être consignée a posteriori, mais elle n'est pas démontrable a priori au sens de Turing !

Le SAP Knowledge Graph : une tentative pour dompter la stochastique

Espérons que SAP soit conscient de cette problématique au niveau architectural et qu’il s’efforce d’opposer à l’incertitude stochastique des modèles linguistiques un ancrage mathématique et structurel : le SAP Knowledge Graph. S'appuyant sur le moteur de graphe en mémoire de Hana Cloud et sur des normes internationales du W3C telles que RDF, SPARQL et OWL, le Knowledge Graph traduit les plus de sept millions de champs de données cryptiques et de réseaux de relations des tables ERP relationnelles en une ontologie explicite et lisible par machine.

Le SAP Knowledge Graph est censé fonctionner comme un „ Babelfish “ sémantique. Le Babelfish est une créature fictive issue du roman « Le Guide du voyageur galactique » de Douglas Adams, devenue le symbole des systèmes de traduction automatique. Le Knowledge Graph sert de boussole de données et de couche d’ancrage (ancrage sémantique). Lorsque l’assistant IA Joule ou un agent autonome traite une requête, il interroge le Knowledge Graph pour identifier les entités de gestion d’entreprise exactes (par exemple : client, commande, site de production, fournisseur) afin de définir le cadre contextuel.

Grâce à cette association entre graphes de connaissances et traitement génératif du texte (GraphRAG), SAP devrait effectivement parvenir à réduire considérablement le taux d'erreur par rapport aux modèles LLM purs. Les requêtes sur le graphe fournissent des relations déterministes entre les données. Mais même le graphe de connaissances SAP ne peut pas dépasser les limites mathématiques posées par Gödel et Turing. Certes, il fournit une cartographie parfaite des métadonnées existantes, mais dès que l’agent IA procède, sur cette base, à une évaluation probabiliste, à une prévision ou à une décision complexe à plusieurs étapes, l’imprécision stochastique du modèle linguistique reprend le dessus. De plus, si la base de données de référence sous-jacente est corrompue ou contient des logiques de code Z obsolètes, le Knowledge Graph ne fait que refléter l’imperfection du système réel.

Les implications juridiques et économiques

Cette analyse scientifique débouche sur une consigne d'action impérative pour le Centre d'expertise client (CCoE) et la direction de chaque entreprise utilisatrice de SAP : ne croyez pas à une autonomie sans faille ! L'affirmation selon laquelle il existerait un environnement ERP totalement autonome et s'optimisant de lui-même, sans supervision humaine, est un argumentaire commercial dangereux. Comme aucune « machine à vérité » infaillible ne peut exister mathématiquement, une confiance aveugle dans l’autonomie de l’IA au cœur du système ERP conduit inévitablement à des violations de la conformité et à des réactions en chaîne sur le plan économique.

Ni l'infrastructure BTP et BDC de SAP, ni les cadres de sécurité certifiés des hyperscalers ne dégagent l'utilisateur de sa propre responsabilité juridique. En vertu de la loi européenne sur l'IA (EU AI Act) et des normes comptables GoBD, c'est l'exploitant du système ERP qui est responsable, sans exception, de toute écriture erronée, discriminatoire ou illégale dans le grand livre productif.

L'humain dans la boucle ou au-dessus de celle-ci

Pour tous les processus critiques pour l'entreprise, tels que les validations de paiement dépassant certains seuils, les écritures comptables, les ajustements de prix ou les décisions logistiques, le principe de la validation humaine doit impérativement être respecté. L'agent peut traiter les données et proposer des solutions, mais l'exécution finale doit rester subordonnée à un signal humain vérifiable : la décision finale revient à l'humain. Ni la théorie des graphes de la plateforme de base de données HANA, ni le Knowledge Graph ne peuvent outrepasser les limites d’incomplétude et d’indécidabilité de l’informatique, démontrées par Kurt Gödel et Alan Turing. SAP Autonomous Enterprise offre des outils très puissants d’automatisation et de contextualisation, mais il n’y aura jamais de certitude absolue ni d’exactitude démontrable dans un système ERP piloté par l’IA.