Semántica de los sistemas ERP y orquestación de la IA con Hilbert, Gödel y Turing

Sistema ERP de referencia

Mientras que durante décadas el libro mayor determinista y rígido (System of Record) se consideraba la base indiscutible de los sistemas ERP, el equipo directivo encabezado por el director general de SAP, Christian Klein, propugna ahora una era en la que la interfaz de usuario Joule Work, cientos de agentes autónomos de IA (Agentic AI) y el Knowledge Graph, sobre la plataforma de datos HANA, se encargarán de gestionar los procesos empresariales centrales en gran medida sin intervención humana.

Se sugiere al cliente actual que, gracias a la combinación del Knowledge Graph, la consolidación semántica y la orquestación autónoma, se crea una nueva dimensión de eficiencia, trazabilidad y cumplimiento normativo automatizado. Sin embargo, desde la perspectiva de un cliente actual de SAP, surge la pregunta: ¿puede haber alguna vez certeza absoluta, trazabilidad completa y corrección demostrable en un sistema ERP de IA estocástico y autónomo como este?

La respuesta de la informática teórica y la teoría del conocimiento es clara: no.

La promesa de un mundo operativo de IA sin errores y autosuficiente choca inevitablemente con las leyes matemáticas fundamentales de David Hilbert, Kurt Gödel y Alan Turing. El malentendido de Hilbert: ¡el sueño de una verdad mecanizable! Para comprender el alcance del debate actual, merece la pena echar un vistazo al Congreso Internacional de Matemáticos de 1928. Allí, el matemático alemán David Hilbert formuló su famoso programa de investigación, cuyo objetivo era asentar toda la matemática sobre un fundamento formal e inquebrantable. El sueño de Hilbert se apoyaba en tres pilares:

Consistencia: La certeza absoluta de que nunca se pueden deducir afirmaciones contradictorias a partir de los axiomas del sistema.

Exhaustividad: La garantía de que cualquier afirmación verdadera dentro del sistema puede demostrarse también formalmente.

Decidibilidad (problema de decisión): La existencia de un procedimiento mecánico (un algoritmo) que, para cualquier enunciado, determine en un número finito de pasos si es verdadero o falso.

Seguridad en materia de auditoría y coherencia en el sistema ERP clásico

El sistema ERP tradicional, desde R/3 pasando por ECC hasta S/4, fue el intento empresarial y organizativo de aplicar el ideal de Hilbert a la práctica empresarial. Un ERP clásico es un sistema determinista: reglas fijas, claves de contabilización, validaciones y bases de datos coherentes garantizan que, a partir de una entrada A y en condiciones idénticas, siempre se obtenga el resultado exacto y demostrable B.

La contabilidad general, el cumplimiento de las obligaciones fiscales y la seguridad ante auditorías se basan por completo en esta expectativa hilbertiana de la coherencia determinista. Ahora bien, cuando SAP intenta sustituir gradualmente este sistema determinista por agentes de IA autónomos, se da por sentado erróneamente que el mundo estocástico de la IA puede integrarse a la perfección en el orden mecanizable de Hilbert.

La incompletitud de Gödel: ¡Por qué ninguna arquitectura de IA puede ser absolutamente infalible!

El sueño de David Hilbert se hizo añicos ya en los años 1930 y 1931 ante el genio del matemático austriaco Kurt Gödel. Con sus teoremas de incompletitud, Gödel demostró matemáticamente de forma rigurosa que cualquier sistema formal suficientemente potente capaz de describir la aritmética es, o bien incompleto, o bien inconsistente. Dentro de un sistema de este tipo siempre hay enunciados que son verdaderos, pero que no pueden demostrarse ni refutarse con los medios del propio sistema. Gödel demostró que los sistemas formales complejos se topan con límites fundamentales en cuanto poseen autorreferencia o una capacidad de expresión suficiente.

Para la investigación moderna en inteligencia artificial y para la «SAP Autonomous Enterprise», esta frase tiene consecuencias trascendentales, que se han puesto claramente de manifiesto en trabajos científicos recientes:

Las alucinaciones no son errores de entrenamiento: el fenómeno de la denominada «alucinación de la IA», en el que un modelo de lenguaje o un agente genera datos plausibles pero erróneos desde el punto de vista factual, no es un error temporal del software que se pueda solucionar con más datos de entrenamiento, GPU más potentes o un mayor número de parámetros.

Incompletitud estructural (Structural Hallucination): dado que los grandes modelos de lenguaje y los agentes generativos se basan en teorías formales del aprendizaje y en modelos de computabilidad, están directamente sujetos a los límites de Gödel. En cuanto un sistema de IA es lo suficientemente complejo como para tomar decisiones autónomas sobre procesos empresariales, presenta, matemáticamente, puntos ciegos inevitables.

No es una máquina de la verdad infalible: una IA que funciona de forma estocástica nunca puede alcanzar, ni física ni matemáticamente, una probabilidad de fallo o de error exactamente igual a cero. Quien afirme que un agente de IA actúa en el libro mayor productivo con „certeza absoluta“ ignora las leyes fundamentales de la informática teórica.

El problema de la detención de Turing: la imprevisibilidad de los agentes autónomos

Lo que Gödel demostró para la lógica matemática, Alan Turing lo trasladó en 1936 a la informática y a la teoría de la computabilidad con su construcción matemática de la máquina de Turing. Turing demostró la insolubilidad del problema de la detención: no puede existir ningún algoritmo universal que, para cualquier programa informático y cualquier entrada, determine de antemano si el programa llegará a detenerse alguna vez o si quedará atrapado en un bucle infinito. Si trasladamos la demostración de Turing a la SAP Autonomous Suite y a la interacción de arquitecturas de agentes de varios niveles (Agent2Agent), se pone de manifiesto el riesgo operativo para el director financiero y el responsable de la infraestructura de TI:

Una red de agentes autónomos de IA que comparan ofertas más allá de los límites del sistema, redirigen las cadenas de suministro o autorizan pagos constituye un sistema complejo y dinámico. Es matemáticamente imposible garantizar a priori, mediante un algoritmo de verificación de nivel superior, que una red de agentes autónomos funcione correctamente en cualquier estado operativo imaginable y que nunca realice transacciones erróneas o perjudiciales.

La paradoja de la transparencia: mientras que el código ABAP tradicional puede analizarse minuciosamente línea por línea en el depurador, el razonamiento de los modelos de lenguaje a gran escala se basa en vectores de alta dimensión (véase también el motor vectorial de la plataforma de base de datos HANA) y en pesos estadísticos (véase también los LLM de pesos abiertos).

Aunque la decisión de un agente puede registrarse a posteriori, ¡no es demostrable a priori en el sentido de Turing!

El SAP Knowledge Graph: el intento de dominar la estocástica

Esperemos que SAP sea consciente de esta problemática a nivel arquitectónico y que intente contrarrestar la incertidumbre estocástica de los modelos lingüísticos con un punto de referencia matemático-estructural: el SAP Knowledge Graph. Basado en el motor de grafos en memoria de Hana Cloud y en estándares internacionales del W3C como RDF, SPARQL y OWL, el Knowledge Graph traduce los más de siete millones de campos de datos crípticos y las redes de relaciones de las tablas relacionales del ERP en una ontología explícita y legible por máquina.

El SAP Knowledge Graph está pensado para actuar como un „Babelfish“ semántico. El Babelfish es un ser ficticio de la novela «La guía del autoestopista galáctico», de Douglas Adams, y se ha convertido en un símbolo de los sistemas de traducción automática. El Knowledge Graph actúa como brújula de datos y capa de grounding (anclaje semántico). Cuando el asistente de IA Joule o un agente autónomo procesa una consulta, consulta a través del Knowledge Graph las entidades empresariales exactas (p. ej., cliente, pedido, planta, proveedor) para delimitar el marco contextual.

Gracias a esta combinación de grafos de conocimiento y procesamiento generativo de texto (GraphRAG), SAP debería conseguir reducir drásticamente la tasa de error en comparación con los modelos LLM puros. Las consultas en el grafo proporcionan relaciones determinísticas entre los datos. Sin embargo, ni siquiera el grafo de conocimiento de SAP puede superar los límites matemáticos de Gödel y Turing. Aunque proporciona un mapa perfecto de los metadatos existentes, en cuanto el agente de IA realiza, sobre esta base, una evaluación probabilística, una previsión o una decisión compleja de varios pasos, vuelve a entrar en juego la imprecisión estocástica del modelo lingüístico. Además, si la base de datos maestros subyacente está contaminada o contiene lógicas de código Z obsoletas, el Knowledge Graph no hace más que reflejar la imprecisión del sistema real.

Las consecuencias jurídicas y empresariales

De este análisis científico se desprende una recomendación imperativa para el Centro de Excelencia del Cliente (CCoE) y la dirección de cualquier empresa usuaria de SAP: ¡No hay que confiar en una autonomía libre de errores! La afirmación de que existe un entorno ERP totalmente autónomo y que se optimiza por sí mismo sin supervisión humana es un argumento de venta peligroso. Dado que, matemáticamente, no puede existir una «máquina de la verdad» libre de errores, la fe ciega en la autonomía de la IA en el núcleo del ERP conduce inevitablemente a incumplimientos normativos y a reacciones en cadena a nivel empresarial.

Ni la infraestructura BTP y BDC de SAP ni los marcos de seguridad certificados de los hiperescaladores eximen al usuario de su propia responsabilidad legal. En virtud de la Ley de IA de la UE y de las normas contables GoBD, el responsable de cualquier asiento erróneo, discriminatorio o ilegal en el libro mayor productivo es, sin excepción, el operador del sistema ERP.

El ser humano dentro o por encima del bucle

En todos los procesos críticos para el negocio, como las autorizaciones de pago que superen determinados límites de importe, los asientos contables, los ajustes de precios o la planificación logística, es imprescindible mantener el principio de la autorización humana. El agente puede procesar datos y proponer soluciones, pero la ejecución final debe seguir estando vinculada a una señal humana auditable: la decisión final humana. Ni la teoría de grafos de la plataforma de base de datos HANA ni el Knowledge Graph pueden anular los límites de incompletitud e indecidibilidad de la informática demostrados por Kurt Gödel y Alan Turing. SAP Autonomous Enterprise ofrece herramientas muy potentes para la automatización y la contextualización, pero en un sistema ERP impulsado por IA nunca habrá certeza absoluta ni corrección demostrable.