Les applications changent, les données restent

Le concept de „ superintelligence humaniste “ (en anglais : « Humanist Superintelligence ») est un message cognitif issu de la Silicon Valley, promu par la division IA de Microsoft (MAI) comme nouveau modèle stratégique et éthique pour le développement de l'intelligence artificielle.

Derrière cela se cache l'ambition de créer les systèmes d'IA les plus performants et les plus avancés au monde, qui restent en même temps parfaitement contrôlables, respectueux de l'éthique et résolument au service de l'humanité. Microsoft définit ce fondement humaniste à travers des valeurs fondamentales souples, presque philosophiques, telles que la bienveillance (Kindness), la confiance, la qualité, la simplicité, ainsi que la sécurité et une évaluation permanente.

Pour les clients SAP existants, ce discours nécessite une analyse critique, car le fossé entre le marketing informatique éthique et la dure réalité économique de l’ERP ne pourrait guère être plus grand. Les grands modèles linguistiques (LLM) se sont déjà révélés inadaptés à l’ERP, car ils reposent uniquement sur le langage et les statistiques. C'est à juste titre que Christian Klein, PDG de SAP, a racheté la start-up allemande Prior Labs, où sont développés des systèmes d'IA basés sur des valeurs chiffrées, car la « convivialité sémantique » n'a pas sa place dans une « entreprise autonome » !

Lorsque les développeurs d’IA affirment que c’est la manière dont les humains collaborent qui définit ce qui est construit, et que l’humanité est au cœur de chaque décision algorithmique, ils cherchent délibérément à apaiser la méfiance sociale fondamentale à l’égard des systèmes de type „ boîte noire “ incontrôlables. Il est intéressant de noter que le principe de développement prôné de la „ bienveillance “ se retrouve également dans les discours socio-économiques, notamment dans le concept d’« économie de la bienveillance » (Kindness Economy) d’Oona Horx Strathern, qui propose une alternative humaniste au capitalisme impitoyable et définit une économie bienveillante et centrée sur l’humain comme un avantage concurrentiel décisif.

Cependant, si le client SAP existant transpose cette noble vision à une transformation vers S/4 et à l’ère de l’« Autonomous Enterprise » proclamée par Christian Klein, le PDG de SAP, la « superintelligence humaniste » de Microsoft se révèle rapidement être une construction nécessaire, mais trompeuse, destinée à gagner l’adhésion d’une base d’utilisateurs informatiques inquiets. Le défi ne semble pas résider dans la convivialité, mais dans la volatilité de l’IA agentique et l’orchestration des données ERP. Les algorithmes sont changeants, les données constituent le fondement de l’ERP. L’orchestration ERP repose sur les données – la gestion des données de référence !

Les clients actuels de SAP doivent savoir que même une IA programmée selon des principes éthiques et humanistes repose sur des calculs probabilistes (modèles de langage à grande échelle) qui, d'un point de vue mathématique, sont inévitablement sujets à des hallucinations structurelles.

Un système d’IA agentique qui, en arrière-plan de S/4 Hana, gère de manière autonome des chaînes d’approvisionnement mondiales ou déclenche des transactions financières sensibles ne peut être protégé contre des déductions factuellement erronées par de simples principes philosophiques tels que la „ confiance “ et la „ sécurité “. L'affirmation de Microsoft AI selon laquelle les systèmes restent contrôlables en toutes circonstances néglige les limites avérées de la théorie de l'information, telles qu'énoncées par Kurt Gödel et Alan Turing, qui démontrent de manière irréfutable qu'une machine à vérité parfaite et infaillible est tout simplement impossible.

C'est pourquoi, pour les clients SAP existants, l'approche humaniste n'est pas tant une caractéristique garantie du logiciel acheté qu'une mission organisationnelle impérative et durable pour leur propre entreprise. L’automatisation croissante rendue possible par des systèmes tels que SAP Joule ou des modèles Microsoft externes ne rend pas obsolètes les compétences humaines telles que l’empathie, la prise de décision éthique et l’instauration de la confiance ; au contraire, elle en fait l’atout le plus important sur le lieu de travail de demain.

Dans cette symbiose entre intelligence humaine et intelligence artificielle, l’être humain ne se contente plus d’exécuter de simples codes de transaction, mais endosse le rôle indispensable d’un „ Human in the Loop “ , voire d’un „ Human above the Loop “, qui assume la responsabilité des décisions finales, fixe les limites éthiques et valide de manière critique les résultats de l’IA. Tout architecte ERP qui fait aveuglément confiance aux promesses d’une super-intelligence humaniste et lui confie la souveraineté opérationnelle sur son système ERP sans instance de contrôle humaine rigoureuse fait preuve d’une négligence grave.