Las aplicaciones cambian, los datos permanecen

El concepto de „superinteligencia humanista“ (en inglés, «Humanist Superintelligence») es el mensaje cognitivo procedente de Silicon Valley que la división de IA de Microsoft (MAI) promueve como nuevo modelo estratégico y moral para el desarrollo de la inteligencia artificial.

Detrás de esto se esconde el ambicioso objetivo de crear los sistemas de IA más capaces y avanzados del mundo, que al mismo tiempo sean totalmente controlables, se rijan por principios éticos y estén firmemente al servicio de la humanidad. Microsoft define este fundamento humanista a través de valores fundamentales sutiles, casi de carácter filosófico, como la amabilidad (Kindness), la confianza, la calidad, la sencillez, así como la seguridad y una evaluación constante.

Para los clientes actuales de SAP, este discurso requiere un análisis crítico, ya que la brecha entre el marketing ético de las tecnologías de la información y la cruda realidad empresarial del ERP no podría ser mayor. Los modelos de lenguaje a gran escala (LLM) ya han demostrado ser inadecuados para el ERP, ya que se basan únicamente en el lenguaje y la estadística. Acertadamente, el director general de SAP, Christian Klein, ha adquirido la start-up alemana Prior Labs, donde se desarrollan sistemas de IA basados en valores numéricos, ¡pues la «amabilidad semántica» no tiene cabida en una «empresa autónoma»!

Cuando los desarrolladores de IA afirman que es la forma de colaboración humana la que define lo que se crea y que la humanidad ocupa el centro de toda decisión algorítmica, lo que se pretende es apaciguar de forma deliberada la desconfianza social fundamental hacia los sistemas de „caja negra“ incontrolables. Curiosamente, el principio de desarrollo propagado de la „bondad“ también se refleja en los discursos socioeconómicos, por ejemplo, en el concepto de «economía de la bondad» (Kindness Economy) de Oona Horx Strathern, que representa una alternativa humanista al capitalismo despiadado y define una economía amable y centrada en las personas como una ventaja competitiva decisiva.

Sin embargo, si el cliente actual de SAP aplica esta noble visión a una transformación a S/4 y a la era de la «Autonomous Enterprise» proclamada por el director general de SAP, Christian Klein, la superinteligencia humanista de Microsoft se revela rápidamente como una construcción necesaria, pero engañosa, para ganarse la aceptación de una base de usuarios de TI nerviosa. El reto no parece ser sencillo, sino que radica en la volatilidad de la IA agencial y la orquestación de los datos del ERP. Los algoritmos son mutables; los datos son la base del ERP. La orquestación del ERP se basa en los datos: ¡la gestión de datos maestros!

Los clientes actuales de SAP deben saber que incluso una IA programada de forma ética y humanista se basa en cálculos probabilísticos (modelos de lenguaje a gran escala), que, desde el punto de vista matemático, están inevitablemente sujetos a alucinaciones estructurales.

Un sistema de IA con capacidad de agencia que, en segundo plano, desde S/4 Hana, controle de forma autónoma las cadenas de suministro globales o inicie transacciones financieras sensibles, no puede protegerse de deducciones objetivamente erróneas mediante meros principios filosóficos como la „confianza“ y la „seguridad“. La afirmación de Microsoft AI de que los sistemas seguirán siendo controlables en todo momento pasa por alto los límites demostrados de la teoría de la información según Kurt Gödel y Alan Turing, que demuestran de manera irrefutable que una máquina de la verdad perfecta y sin errores es sencillamente imposible.

Por este motivo, para los clientes actuales de SAP, el enfoque humanista no es tanto una característica garantizada del software adquirido, sino más bien un compromiso organizativo imperativo y duradero para la propia empresa. La creciente automatización que aportan sistemas como SAP Joule o modelos externos de Microsoft no hace que habilidades humanas como la empatía, la toma de decisiones éticas y la creación de confianza queden obsoletas, sino que, por el contrario, las convierte en el activo más importante del lugar de trabajo del futuro.

En la simbiosis entre la inteligencia humana y la artificial, el ser humano ya no actúa como un mero ejecutor de códigos de transacción, sino que asume el papel indispensable de „Human in the Loop“ o incluso de „human above the loop“, responsable de las decisiones finales, de establecer límites éticos y de validar críticamente los resultados de la IA. Todo arquitecto de ERP que confíe ciegamente en las promesas de una superinteligencia humanista y le ceda la soberanía operativa sobre su sistema ERP sin una instancia de control humano rigurosa está actuando con una negligencia grave.