Actualmente, se sugiere a los clientes actuales de SAP que los resultados err\u00f3neos de los modelos de lenguaje a gran escala (LLM), las llamadas \u00abalucinaciones\u00bb, no son m\u00e1s que problemas iniciales temporales que pronto se podr\u00e1n controlar con vol\u00famenes de datos cada vez mayores, arquitecturas m\u00e1s sofisticadas o una verificaci\u00f3n rigurosa de los hechos. Sin embargo, los hallazgos de la inform\u00e1tica te\u00f3rica desmienten esta narrativa y revelan que SAP y otras empresas de IA est\u00e1n cayendo en una peligrosa creencia err\u00f3nea.<\/p>\n\n\n\n
Grupos de investigaci\u00f3n independientes, entre los que destacan Sourav Banerjee, Ayushi Agarwal y Saloni Singla en su aclamada publicaci\u00f3n de 2024, han demostrado sin lugar a dudas que las alucinaciones no constituyen un problema solucionable de la inform\u00e1tica te\u00f3rica ni un problema de datos del ERP. Las alucinaciones son, m\u00e1s bien, una propiedad matem\u00e1tica y l\u00f3gica inevitable de los modelos de lenguaje a gran escala. Los investigadores acu\u00f1aron para este problema inform\u00e1tico el acertado t\u00e9rmino de \u201ealucinaci\u00f3n estructural\u201c.<\/p>\n\n\n\n
Para los responsables de TI en el \u00e1mbito de SAP, esto requiere echar un vistazo a la historia de las matem\u00e1ticas, concretamente al primer teorema de incompletitud de Kurt G\u00f6del y al problema de la detenci\u00f3n de Alan Turing, ambos de la d\u00e9cada de 1930. Estos teoremas demuestran de forma irrefutable que una \u201em\u00e1quina de la verdad\u201c perfecta es, desde el punto de vista matem\u00e1tico, sencillamente imposible.<\/p>\n\n\n\n
Aplicado al \u00abmotor\u00bb de los LLM modernos, esto significa que en cada una de las etapas del proceso de procesamiento \u2014desde la recopilaci\u00f3n de los datos de entrenamiento, pasando por la clasificaci\u00f3n de la intenci\u00f3n (Intent Classification) y la reconstrucci\u00f3n de los hechos, hasta la generaci\u00f3n del texto propiamente dicha\u2014 \u2014, existe una probabilidad de error distinta de cero que no se puede eliminar mediante optimizaci\u00f3n.<\/p>\n\n\n\n
Los investigadores en inteligencia artificial y los inform\u00e1ticos demuestran matem\u00e1ticamente que ninguna base de datos de entrenamiento puede estar completa al cien por cien. Incluso si el conocimiento estuviera presente en el sistema, el LLM, debido a su naturaleza probabil\u00edstica, no puede garantizar que extraiga con precisi\u00f3n los datos correctos de una gigantesca estructura de datos.<\/p>\n\n\n\n
La situaci\u00f3n se vuelve a\u00fan m\u00e1s delicada debido a la indecidibilidad del \u00abproblema de la detenci\u00f3n\u00bb, que afecta de lleno a los modelos de lenguaje grandes (LLM). Un modelo de lenguaje nunca puede predecir a priori cu\u00e1ntos tokens generar\u00e1 ni en qu\u00e9 momento exacto se detendr\u00e1 su c\u00e1lculo. Dado que el modelo desconoce el final de su propia generaci\u00f3n de texto, la secuencia de tokens generados es imprevisible de antemano, lo que hace que el sistema sea inevitablemente propenso a generar datos contradictorios, parad\u00f3jicos o, sencillamente, falsos.<\/p>\n\n\n\n
Los clientes actuales de SAP deben comprender, adem\u00e1s, que los mecanismos de control posteriores, como la verificaci\u00f3n de datos \u2014a menudo alabada como panacea\u2014 o la generaci\u00f3n aumentada por recuperaci\u00f3n (RAG), nunca podr\u00e1n eliminar al cien por cien las alucinaciones estructurales, ya que tampoco estos pasos de verificaci\u00f3n, que constan de un n\u00famero finito de etapas, funcionan sin errores.<\/p>\n\n\n\n
Las consecuencias de estas conclusiones para los clientes actuales de SAP son dram\u00e1ticas y ponen de manifiesto los riesgos de la estrategia de transformaci\u00f3n actual de SAP. Si SAP tiene previsto integrar, mediante Agentic AI, cientos de agentes de IA aut\u00f3nomos en lo m\u00e1s profundo de los procesos cr\u00edticos para el negocio de S\/4 Hana o de la Business Technology Platform (SAP BTP), se estar\u00e1n aplicando m\u00e1quinas de probabilidad puramente estad\u00edsticas y probabil\u00edsticas a tareas de ERP altamente sensibles y deterministas.<\/p>\n\n\n\n
Si una IA de este tipo toma decisiones de forma aut\u00f3noma sobre las cadenas de suministro, las transferencias salariales o el cierre del ejercicio, una tasa de error superior a cero no es un compromiso aceptable, sino un riesgo cr\u00edtico para el negocio. Un error en un sistema SAP en producci\u00f3n conlleva consecuencias inmediatas a nivel empresarial, financiero y jur\u00eddico. Por lo tanto, los responsables de TI no deben dejarse deslumbrar por la ret\u00f3rica de que una potencia de c\u00e1lculo cada vez mayor y modelos de lenguaje cada vez m\u00e1s grandes son la soluci\u00f3n.<\/p>\n\n\n\n
La escalabilidad solo ampl\u00eda los l\u00edmites del rendimiento, pero no anula las leyes matem\u00e1ticas de la naturaleza. El ser humano como instancia de control \u2014el a menudo ridiculizado \u201eHuman in the Loop\u201c\u2014 no es, por lo tanto, una soluci\u00f3n molesta y transitoria en el camino hacia la inteligencia artificial perfecta, sino una necesidad matem\u00e1tica permanente para garantizar la soberan\u00eda empresarial. Quien conf\u00ede su sistema ERP a estos algoritmos alucinantes sin ning\u00fan tipo de protecci\u00f3n, est\u00e1 ignorando casi un siglo de investigaci\u00f3n fundamental en inform\u00e1tica.<\/p>\n\n\n\n
Por lo tanto, para los responsables de la toma de decisiones en SAP, la conclusi\u00f3n es que el uso de modelos de lenguaje generativos (LLM) para tareas cr\u00edticas para el negocio y estrictamente deterministas constituye una negligencia grave. Si el c\u00e1lculo de probabilidades de un LLM debe decidir si se realiza o no una transferencia salarial a final de mes, queda patente la disfuncionalidad arquitect\u00f3nica de este enfoque puramente estad\u00edstico.<\/p>\n\n\n\n
Por ello, los pioneros de la IA abogan con vehemencia por la investigaci\u00f3n de arquitecturas alternativas, como los modelos basados en la energ\u00eda (Energy-Based Models), que buscan la coherencia l\u00f3gica y los estados f\u00edsicamente viables, en lugar de limitarse a encadenar palabras. La propia SAP tambi\u00e9n ha tenido que reaccionar ante estas limitaciones de los LLM cl\u00e1sicos y ha apostado por modelos base especializados como el RPT-1, que est\u00e1 entrenado espec\u00edficamente para relaciones tabulares y evita el paradigma de los tokens de lenguaje, propenso a errores, en el caso de los datos empresariales.<\/p>\n\n\n\n
Sin embargo, mientras los LLM cl\u00e1sicos sigan constituyendo el n\u00facleo de la nueva estrategia de IA empresarial, cada cliente actual de SAP debe comprender, en el marco de la formaci\u00f3n conceptual, que los avances t\u00e9cnicos y la potencia de c\u00e1lculo no pueden eliminar los l\u00edmites matem\u00e1ticos; por lo que sigue siendo imprescindible contar con una gobernanza estricta y determinista fuera del modelo de IA como instancia de control de estas \u00abcajas negras\u00bb probabil\u00edsticas.<\/p>\n\n\n\n
El \u201eHuman in the Loop\u201c no tiene alternativa. Desde un punto de vista matem\u00e1tico, todas las estrategias t\u00e9cnicas de mitigaci\u00f3n \u2014desde RAG hasta RPT-1\u2014 se revelan como una mera gesti\u00f3n de riesgos que reduce la probabilidad de error, pero nunca la reduce a cero. Dado que las alucinaciones se basan en las mismas imposibilidades te\u00f3ricas que Kurt G\u00f6del (teorema de incompletitud) y Alan Turing (problema de la parada) ya demostraron en la d\u00e9cada de 1930 para los sistemas formales, no existe una soluci\u00f3n totalmente aut\u00f3noma.<\/p>\n\n\n\n
Por lo tanto, en los procesos SAP cr\u00edticos para el negocio, en los que Agentic AI deber\u00e1 en el futuro generar pedidos o iniciar transacciones financieras de forma aut\u00f3noma, el ser humano, como instancia de control final (\u00abHuman in the Loop\u00bb), no es una soluci\u00f3n provisional molesta en el camino hacia la m\u00e1quina perfecta. Quien tome decisiones en el entorno SAP por las que la empresa sea responsable jur\u00eddica y financieramente debe reconocer que la validaci\u00f3n de los resultados probabil\u00edsticos de la IA mediante reglas deterministas y la experiencia humana sigue siendo una necesidad matem\u00e1tica, ineludible y permanente.<\/p>","protected":false},"excerpt":{"rendered":"
Quien analice con la debida distancia las promesas de SAP en torno a la \u201eAutonomous Enterprise\u201c, el asistente Joule y los agentes aut\u00f3nomos de IA, se topa inevitablemente con un punto ciego fundamental en la estrategia actual de IA: las alucinaciones.<\/p>","protected":false},"author":2,"featured_media":161236,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"pmpro_default_level":"","footnotes":""},"categories":[27840],"tags":[7675,44106,44395,39,44493,601,273,73,44486,647,65,369,624,43740,44492,42128,517,236],"coauthors":[27825],"class_list":["post-164579","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-chefredakteur-blog","tag-api","tag-bdc","tag-btp","tag-cloud","tag-datafabric","tag-digitalisierung","tag-dsag","tag-erp","tag-fable-5","tag-google","tag-hana","tag-it","tag-ki-joule","tag-llm","tag-loop","tag-open-source-3","tag-s4","tag-sap","pmpro-has-access"],"acf":[],"featured_image_urls_v2":{"full":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/02\/Chefredakteur-neu.jpeg",1000,450,false],"thumbnail":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/02\/Chefredakteur-neu-150x150.jpeg",150,150,true],"medium":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/02\/Chefredakteur-neu-400x180.jpeg",400,180,true],"medium_large":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/02\/Chefredakteur-neu-768x346.jpeg",768,346,true],"large":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/02\/Chefredakteur-neu.jpeg",1000,450,false],"image-100":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/02\/Chefredakteur-neu-100x45.jpeg",100,45,true],"image-480":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/02\/Chefredakteur-neu-480x216.jpeg",480,216,true],"image-640":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/02\/Chefredakteur-neu-640x288.jpeg",640,288,true],"image-720":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/02\/Chefredakteur-neu-720x324.jpeg",720,324,true],"image-960":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/02\/Chefredakteur-neu-960x432.jpeg",960,432,true],"image-1168":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/02\/Chefredakteur-neu.jpeg",1000,450,false],"image-1440":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/02\/Chefredakteur-neu.jpeg",1000,450,false],"image-1920":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/02\/Chefredakteur-neu.jpeg",1000,450,false],"1536x1536":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/02\/Chefredakteur-neu.jpeg",1000,450,false],"2048x2048":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/02\/Chefredakteur-neu.jpeg",1000,450,false],"trp-custom-language-flag":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/02\/Chefredakteur-neu-18x8.jpeg",18,8,true],"bricks_large_16x9":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/02\/Chefredakteur-neu.jpeg",1000,450,false],"bricks_large":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/02\/Chefredakteur-neu.jpeg",1000,450,false],"bricks_large_square":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/02\/Chefredakteur-neu.jpeg",1000,450,false],"bricks_medium":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/02\/Chefredakteur-neu-600x270.jpeg",600,270,true],"bricks_medium_square":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/02\/Chefredakteur-neu-600x450.jpeg",600,450,true],"profile_24":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/02\/Chefredakteur-neu-24x24.jpeg",24,24,true],"profile_48":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/02\/Chefredakteur-neu-48x48.jpeg",48,48,true],"profile_96":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/02\/Chefredakteur-neu-96x96.jpeg",96,96,true],"profile_150":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/02\/Chefredakteur-neu-150x150.jpeg",150,150,true],"profile_300":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/02\/Chefredakteur-neu-300x300.jpeg",300,300,true]},"post_excerpt_stackable_v2":"
Wer die Versprechen von SAP rund um das \u201eAutonomous Enterprise\u201c, den Assistenten Joule und autonome KI-Agenten mit der gebotenen Distanz analysiert, st\u00f6\u00dft unweigerlich auf einen fundamentalen blinden Fleck in der aktuellen KI-Strategie: Halluzinationen<\/p>\n","category_list_v2":"Chefredakteur-Blog<\/a>","author_info_v2":{"name":"Peter M. F\u00e4rbinger, E3 Magazine","url":"https:\/\/e3mag.com\/es\/author\/peter-m-faerbinger-e-3-magazin\/"},"comments_num_v2":"0 comentarios","_links":{"self":[{"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/posts\/164579","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/comments?post=164579"}],"version-history":[{"count":2,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/posts\/164579\/revisions"}],"predecessor-version":[{"id":164583,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/posts\/164579\/revisions\/164583"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/media\/161236"}],"wp:attachment":[{"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/media?parent=164579"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/categories?post=164579"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/tags?post=164579"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/coauthors?post=164579"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}