{"id":139977,"date":"2024-02-29T12:00:00","date_gmt":"2024-02-29T11:00:00","guid":{"rendered":"http:\/\/e3mag.com\/?p=139977"},"modified":"2024-02-29T15:19:11","modified_gmt":"2024-02-29T14:19:11","slug":"riesgo-con-erp-ki-de-sap","status":"publish","type":"post","link":"https:\/\/e3mag.com\/es\/risiko-bei-erp-ki-von-sap\/","title":{"rendered":"Riesgo con IA ERP de SAP"},"content":{"rendered":"<h2 class=\"wp-block-heading\">Simple fraude financiero tras cum-ex<\/h2>\n\n\n\n<p>En t\u00e9rminos muy simplificados, los autores del fraude fiscal cum-ex leyeron y analizaron las leyes fiscales pertinentes hasta encontrar un supuesto fraude. Durante muchos a\u00f1os, muchos expertos se mostraron inseguros al respecto; s\u00f3lo una revisi\u00f3n exhaustiva calific\u00f3 este procedimiento de fraude fiscal.<\/p>\n\n\n\n<p>Un LLM (modelo de lenguaje de gran tama\u00f1o) como base de casi todas las IA generativas hace poco m\u00e1s que calcular. Los modelos leen miles de millones de datos y analizan las estad\u00edsticas (la IA tiene m\u00e1s que ver con la estad\u00edstica de lo que muchos usuarios creen). El resultado es una respuesta basada en el material de datos procesado. Ahora cabe imaginar que, tras estudiar la bibliograf\u00eda pertinente, una IA generativa probablemente tambi\u00e9n hubiera podido descubrir el fraude fiscal.<\/p>\n\n\n\n<p>\u00bfQu\u00e9 tipo de respuestas puede esperar un usuario de S\/4, cuando se ha suministrado un modelo de gran tama\u00f1o con los datos de todas las instalaciones de SAP Simple Finance? La respuesta no tiene por qu\u00e9 ser moral o econ\u00f3micamente correcta. Ni siquiera tiene por qu\u00e9 ser legal, v\u00e9ase el fraude fiscal cum-ex. Pero la respuesta ser\u00e1, claramente, estad\u00edsticamente correcta en t\u00e9rminos del algoritmo de IA y el LLM.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">IA generativa sin metanivel<\/h2>\n\n\n\n<p>Claramente, la IA generativa no puede ser una br\u00fajula moral, pero lo alejadas que pueden estar las respuestas de la IA de la vida real qued\u00f3 demostrado hace unos d\u00edas con el software de IA Gemini de Google, a pesar de las mejores intenciones, la transparencia y la diversidad.<\/p>\n\n\n\n<p>Al programa de Google se le pidi\u00f3 que mostrara soldados con uniformes alemanes de la Segunda Guerra Mundial: en la era de la diversificaci\u00f3n, esto dio como resultado im\u00e1genes de soldados con rasgos faciales asi\u00e1ticos y color de piel oscuro. Otra petici\u00f3n dio como resultado papas femeninas, que, aunque ser\u00eda deseable, no refleja para nada la realidad. Google ha prometido revisar el generador de im\u00e1genes de IA. En la p\u00e1gina web de la revista alemana Handelsblatt se puede leer m\u00e1s al respecto (s\u00f3lo disponible en alem\u00e1n). <a href=\"https:\/\/www.handelsblatt.com\/technik\/ki\/gemini-google-stoppt-ki-generierte-bilder-von-menschen-das-steckt-dahinter-2\/100017425.html\" target=\"_blank\" rel=\"noreferrer noopener\">aqu\u00ed<\/a> leer.<\/p>\n\n\n\n<p>Muchos programas de IA carecen de un nivel meta que tome medidas correctivas. Un simple algoritmo sobre la historia de la iglesia cat\u00f3lica habr\u00eda hecho que una mujer Papa pareciera muy improbable, \u00a1a pesar de cualquier simpat\u00eda por la diversidad! El mundo real no puede explicarse y representarse \u00fanicamente con estad\u00edsticas, aunque estas funciones sean extremadamente sofisticadas y exigentes: como m\u00ednimo, la IA requiere del nivel de preparaci\u00f3n y educaci\u00f3n que aporta un doctorado.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">SAP elude toda responsabilidad<\/h2>\n\n\n\n<p>La IA tambi\u00e9n desempe\u00f1a un papel decisivo en el mundo ERP de SAP. SAP invirti\u00f3 en la start-up alemana Aleph Alpha, pero no dio ninguna respuesta sobre c\u00f3mo la personalizaci\u00f3n de la IA podr\u00eda funcionar con S\/4. Para muchos expertos, suena a \"queremos, pero no nos atrevemos\". Actualmente, SAP no ofrece ning\u00fan tipo de evaluaci\u00f3n o prevenci\u00f3n de riesgos. \u00bfQu\u00e9 ocurre si la IA de Simple Finance hace recomendaciones irregulares?<\/p>\n\n\n\n<p>Evidentemente, la DSAG (grupo de usuarios germanohablantes) tiene una visi\u00f3n menos cr\u00edtica de la transferencia de responsabilidades de SAP a los usuarios. Al parecer, basta con proporcionar herramientas. Las travesuras que puedan hacer los usuarios con esas herramientas deber\u00edan ser responsabilidad propia, \u00bfno?<\/p>\n\n\n\n<p>En este contexto, el DSAG considera como algo positivo el anuncio de un SAP AI hub generativo que se revel\u00f3 en el \u00faltimo SAP TechEd de Bangalore, India. El SAP AI Core y el SAP AI Launchpad existentes en la SAP Business Technology Platform (BTP) se ampliar\u00e1n para incluir este hub de IA generativa con el fin de controlar la conexi\u00f3n con modelos LLM externos, inicialmente Open AI para ser precisos. Tambi\u00e9n est\u00e1 prevista la facturaci\u00f3n a trav\u00e9s de un modelo de precios independiente (unidades AI). En resumen: SAP organiza el uso de ChatGPT (Open AI), cobra por ello, pero no asume ninguna responsabilidad.<\/p>\n\n\n\n<p>El nuevo enfoque de SAP en la IA empresarial tambi\u00e9n quedar\u00e1 claro con el lanzamiento de SAP Joule. Este asistente de IA controlado por voz y basado en IA generativa pretende comprender el contexto empresarial e integrarse directamente en la cartera de servicios en la nube para los procesos cr\u00edticos de negocio de las empresas usuarias. En su discurso de apertura del Congreso Anual DSAG 2023, Thomas Saueressig, miembro de la junta directiva de SAP para ingenier\u00eda de productos, ya hab\u00eda especificado este enfoque en los procesos de negocio en conjunci\u00f3n con la IA. Seg\u00fan el fabricante de software, les gustar\u00eda apoyarse cada vez m\u00e1s en socios como Open AI. Sin embargo, lo que SAP no mencion\u00f3 en el congreso anual del DSAG 2023 en Bremen, es la asunci\u00f3n de responsabilidad, la presentaci\u00f3n de riesgos y la evitaci\u00f3n de da\u00f1os si Joule da una respuesta corrupta o ileg\u00edtima. \u00bfQu\u00e9 pasa en ese caso?<\/p>\n\n\n\n<p>\"En principio, acogemos con satisfacci\u00f3n esta direcci\u00f3n estrat\u00e9gica de SAP \u2013especialmente a la luz de los desarrollos din\u00e1micos que rodean a los principales modelos como Open AI, etc. Sin embargo, todav\u00eda tenemos algunas preguntas sin respuesta desde una perspectiva comercial, funcional y tecnol\u00f3gica\", afirma el director de tecnolog\u00eda del DSAG, Sebastian Westphal, al menos, instando a un poco de responsabilidad y evaluaci\u00f3n de riesgos. Debe ser demostrable que se aplican y documentan directrices v\u00e1lidas cuando la IA toma decisiones sobre procesos. Desde el punto de vista tecnol\u00f3gico, ser\u00eda importante saber c\u00f3mo se maneja la informaci\u00f3n sensible de la empresa cuando se utiliza. \u00bfC\u00f3mo aprende la IA? \u00bfQu\u00e9 utiliza un LLM? El uso indirecto es en lo que SAP de ahora en adelante se deber\u00eda enfocar.<\/p>","protected":false},"excerpt":{"rendered":"<p>SAP quiere, pero no se atreve: la IA generativa y los modelos de lenguaje de gran tama\u00f1o son a la vez una revoluci\u00f3n y un riesgo. Los resultados de la IA son espectaculares, pero \u00bfson tambi\u00e9n v\u00e1lidos econ\u00f3mica y jur\u00eddicamente?<\/p>","protected":false},"author":2368,"featured_media":132122,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"pmpro_default_level":"0","footnotes":""},"categories":[27840],"tags":[],"coauthors":[39720,27825],"class_list":["post-139977","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-chefredakteur-blog","pmpro-has-access"],"acf":[],"featured_image_urls_v2":{"full":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/Chefredakteur-neu.jpeg",1000,450,false],"thumbnail":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/Chefredakteur-neu-150x150.jpeg",150,150,true],"medium":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/Chefredakteur-neu-400x180.jpeg",400,180,true],"medium_large":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/Chefredakteur-neu-768x346.jpeg",768,346,true],"large":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/Chefredakteur-neu.jpeg",1000,450,false],"image-100":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/Chefredakteur-neu-100x45.jpeg",100,45,true],"image-480":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/Chefredakteur-neu-480x216.jpeg",480,216,true],"image-640":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/Chefredakteur-neu-640x288.jpeg",640,288,true],"image-720":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/Chefredakteur-neu-720x324.jpeg",720,324,true],"image-960":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/Chefredakteur-neu-960x432.jpeg",960,432,true],"image-1168":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/Chefredakteur-neu.jpeg",1000,450,false],"image-1440":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/Chefredakteur-neu.jpeg",1000,450,false],"image-1920":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/Chefredakteur-neu.jpeg",1000,450,false],"1536x1536":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/Chefredakteur-neu.jpeg",1000,450,false],"2048x2048":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/Chefredakteur-neu.jpeg",1000,450,false],"trp-custom-language-flag":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/Chefredakteur-neu-18x8.jpeg",18,8,true],"bricks_large_16x9":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/Chefredakteur-neu.jpeg",1000,450,false],"bricks_large":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/Chefredakteur-neu.jpeg",1000,450,false],"bricks_large_square":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/Chefredakteur-neu.jpeg",1000,450,false],"bricks_medium":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/Chefredakteur-neu-600x270.jpeg",600,270,true],"bricks_medium_square":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/Chefredakteur-neu-600x450.jpeg",600,450,true],"profile_24":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/Chefredakteur-neu-24x24.jpeg",24,24,true],"profile_48":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/Chefredakteur-neu-48x48.jpeg",48,48,true],"profile_96":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/Chefredakteur-neu-96x96.jpeg",96,96,true],"profile_150":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/Chefredakteur-neu-150x150.jpeg",150,150,true],"profile_300":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/Chefredakteur-neu-300x300.jpeg",300,300,true]},"post_excerpt_stackable_v2":"<p>SAP will, aber traut sich nicht: Generative KI und Large- Language- Modelle sind eine Revolution und Risiko zugleich. Die Ergebnisse der KI sind spektakul\u00e4r, aber sind sie auch betriebswirtschaftlich und rechtliche valide?<\/p>\n","category_list_v2":"<a href=\"https:\/\/e3mag.com\/es\/category\/chefredakteur-blog\/\" rel=\"category tag\">Chefredakteur-Blog<\/a>","author_info_v2":{"name":"E3 Magazine","url":"https:\/\/e3mag.com\/es\/author\/e3_magazin\/"},"comments_num_v2":"0 comentarios","_links":{"self":[{"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/posts\/139977","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/users\/2368"}],"replies":[{"embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/comments?post=139977"}],"version-history":[{"count":2,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/posts\/139977\/revisions"}],"predecessor-version":[{"id":139994,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/posts\/139977\/revisions\/139994"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/media\/132122"}],"wp:attachment":[{"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/media?parent=139977"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/categories?post=139977"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/tags?post=139977"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/coauthors?post=139977"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}