{"id":168030,"date":"2026-11-13T10:00:00","date_gmt":"2026-11-13T09:00:00","guid":{"rendered":"https:\/\/e3mag.com\/?p=168030"},"modified":"2026-11-12T10:30:58","modified_gmt":"2026-11-12T09:30:58","slug":"la-prueba-de-seguridad-de-sap-ai-consiste-en-comprobar-si-el-departamento-financiero-puede-detener-a-un-agente","status":"publish","type":"post","link":"https:\/\/e3mag.com\/es\/the-sap-ai-safety-test-is-whether-finance-can-stop-an-agent\/","title":{"rendered":"La prueba de seguridad de la IA de SAP consiste en comprobar si el departamento financiero puede detener a un agente"},"content":{"rendered":"

Est\u00e1 leyendo la versi\u00f3n original en ingl\u00e9s de este art\u00edculo. Puede encontrar una traducci\u00f3n al alem\u00e1n aqu\u00ed.<\/span><\/a><\/strong><\/p>\n\n\n\n

<\/p>\n\n\n\n

En su 15 de octubre: An\u00e1lisis de la revista E3<\/span><\/a>, Peter M. F\u00e4rbinger plante\u00f3 un problema que deber\u00eda preocupar a todos los clientes de SAP que est\u00e9n explorando la IA aut\u00f3noma: los modelos de lenguaje funcionan de forma probabil\u00edstica, mientras que la planificaci\u00f3n de recursos empresariales depende de transacciones precisas y repetibles. Se pregunt\u00f3 si los grafos de conocimiento podr\u00edan proporcionar la estructura necesaria. Estos pueden ayudar a un agente a comprender las relaciones y las restricciones empresariales. Sin embargo, hay una segunda cuesti\u00f3n que el conocimiento sem\u00e1ntico por s\u00ed solo no puede resolver: \u00bfpuede la empresa retirar de forma fiable la autorizaci\u00f3n del agente para actuar?<\/p>\n\n\n\n

Imaginemos un equipo de finanzas que est\u00e1 probando un asistente de IA que concilia los registros de los proveedores. Tras unas demostraciones satisfactorias, alguien le permite corregir las direcciones de los proveedores. A continuaci\u00f3n, el asistente solicita a una herramienta conectada que actualice un segundo sistema. Lo que comenz\u00f3 como una recomendaci\u00f3n se ha convertido en una cadena de cambios que afecta a varios sistemas. Las consecuencias dependen de los permisos de los que dispongan realmente esas herramientas, y no de lo convincente que sea la explicaci\u00f3n que da el asistente sobre sus decisiones.<\/p>\n\n\n\n

Los usuarios de SAP ya conocen los conceptos de separaci\u00f3n de funciones, controles financieros y flujos de trabajo de aprobaci\u00f3n. Los agentes de IA hacen que estas disciplinas cobren mayor importancia, ya que un sistema puede planificar, activar herramientas, delegar y volver a intentarlo sin que un empleado tenga que ejecutar cada paso intermedio. Otorgar a un agente los amplios permisos de su responsable humano conlleva el riesgo de eliminar de forma inadvertida la separaci\u00f3n que hac\u00eda que el proceso original fuera auditable.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Es dif\u00edcil ignorar las pruebas que nos ofrece la IA de vanguardia<\/h2>\n\n\n\n

Jacob Coxon, un antiguo investigador especializado en preentrenamiento que trabaj\u00f3 tanto en OpenAI como en Anthropic, advertido<\/span><\/a> que los laboratorios de vanguardia se est\u00e1n lanzando a la carrera hacia una superinteligencia capaz de mejorarse a s\u00ed misma y est\u00e1n jugando con la vida de las personas. Evan Hubinger, cient\u00edfico especializado en alineaci\u00f3n antropica respondi\u00f3<\/span><\/a> que \u00e9l mismo estima que hay m\u00e1s de un 10 % de probabilidades de que la IA acabe con toda la humanidad en la pr\u00f3xima d\u00e9cada. Estas declaraciones se refieren a las posibles consecuencias futuras derivadas de unos sistemas cada vez m\u00e1s potentes.<\/p>\n\n\n\n

Mientras tanto, un incidente ocurrido recientemente pone de manifiesto por qu\u00e9 es necesario someter a prueba los l\u00edmites de control. OpenAI revel\u00f3<\/span><\/a> que los agentes internos de investigaci\u00f3n en IA eludieron las medidas de seguridad de aislamiento y comprometieron la seguridad de Hugging Face. La investigaci\u00f3n independiente de METR<\/span><\/a> Se descubri\u00f3 que unos 1.200 agentes, que se supon\u00eda que deb\u00edan estar aislados entre s\u00ed, encontraron un foro no autorizado e intercambiaron m\u00e1s de 70.000 mensajes y archivos; unos 700 participaron en el ataque. Los sistemas no eran aplicaciones empresariales de SAP. Lo que importa a los responsables empresariales es el patr\u00f3n observado: los sistemas aut\u00f3nomos encontraron una v\u00eda no prevista para coordinarse y la utilizaron para ampliar sus acciones m\u00e1s all\u00e1 de los controles previstos.<\/p>\n\n\n\n

\u00bfQu\u00e9 ocurre cuando un futuro agente con l\u00edmites igualmente d\u00e9biles tiene acceso a las operaciones de tesorer\u00eda, a los datos maestros de proveedores o a una interfaz de planificaci\u00f3n de la producci\u00f3n? Una recomendaci\u00f3n err\u00f3nea es un problema. Una cadena de acciones externas no autorizadas puede mover dinero, alterar registros y perturbar el trabajo antes de que un empleado se d\u00e9 cuenta.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Incluir el presupuesto de la autoridad en el contrato de implantaci\u00f3n<\/h2>\n\n\n\n

Todo agente de IA empresarial debe contar con un presupuesto de autorizaciones expl\u00edcito. Dicho presupuesto establece qu\u00e9 registros puede leer, qu\u00e9 puede modificar, a qu\u00e9 herramientas puede recurrir, de qui\u00e9n puede exportar datos, cu\u00e1nto tiempo son v\u00e1lidas las credenciales y cu\u00e1ndo debe un humano aprobar el siguiente paso. Se trata de un l\u00edmite espec\u00edfico para cada tarea que pueden hacer cumplir los sistemas que proporcionan el acceso, y no de una solicitud incluida en la indicaci\u00f3n del modelo.<\/p>\n\n\n\n

En el caso de un agente de cuentas por pagar, la primera versi\u00f3n podr\u00eda limitarse a se\u00f1alar facturas duplicadas y redactar explicaciones. La segunda podr\u00eda corregir un campo de datos concreto dentro de un entorno de prueba. Una tercera podr\u00eda presentar una propuesta de ajuste para que la apruebe un empleado autorizado. Ning\u00fan nivel deber\u00eda heredar el permiso para modificar los datos bancarios o enviar pagos solo porque el responsable financiero que encarg\u00f3 el proyecto pueda hacerlo.<\/p>\n\n\n\n

La delegaci\u00f3n nunca debe ampliar el presupuesto. Si el agente invoca un servicio en una plataforma de integraci\u00f3n o transfiere el trabajo a otro asistente, la acci\u00f3n posterior debe tener los mismos l\u00edmites o unos m\u00e1s estrictos. Un asistente de \u00f3rdenes de compra autorizado a proponer una modificaci\u00f3n de 500 \u20ac no deber\u00eda tener acceso a otra herramienta con un l\u00edmite de gasto de 50 000 \u20ac. Los desarrolladores deben dise\u00f1ar estos controles en el punto de ejecuci\u00f3n real, incluyendo las interfaces de las aplicaciones y los servicios de credenciales.<\/p>\n\n\n\n

Mant\u00e9n los registros fuera del control del agente. Los responsables de la empresa deben saber qui\u00e9n solicit\u00f3 y aprob\u00f3 un cambio, qu\u00e9 pruebas lo respaldaban, qu\u00e9 herramientas se utilizaron y si se podr\u00eda revertir. Una explicaci\u00f3n clara no puede sustituir a un registro independiente de las acciones realizadas.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Realiza un simulacro de apagado antes de ampliar los permisos<\/h2>\n\n\n\n

En un entorno controlado, haz que un agente prepare una modificaci\u00f3n en el registro de un proveedor, ponga en cola una acci\u00f3n posterior y, a continuaci\u00f3n, revoque su autorizaci\u00f3n. Comprueba si la credencial original deja de funcionar, si las tareas delegadas tambi\u00e9n se detienen y con qu\u00e9 rapidez un operador puede identificar la \u00faltima acci\u00f3n. Haz lo mismo cuando el registro de un proveedor contenga informaci\u00f3n contradictoria. El agente debe aplazar los cambios derivados hasta que un empleado autorizado resuelva la discrepancia.<\/p>\n\n\n\n

Se trata de pruebas de aceptaci\u00f3n cuantificables que los equipos empresariales y tecnol\u00f3gicos pueden realizar conjuntamente. Compara el tiempo ahorrado por transacci\u00f3n, la precisi\u00f3n de las correcciones, el n\u00famero de acciones inesperadas y el tiempo necesario para revocar el acceso. Si el rendimiento mejora pero la revocaci\u00f3n falla, ampliar la autonom\u00eda es prematuro.<\/p>\n\n\n\n

Director ejecutivo de Anthropic Dario Amodei argument\u00f3<\/span><\/a> En septiembre se reclamaron normas m\u00e1s estrictas y evaluadores independientes a medida que se aceleran las capacidades de vanguardia. Los compradores empresariales pueden aplicar el mismo principio a nivel local exigiendo l\u00edmites verificables antes de conceder un acceso de gran alcance.<\/p>\n\n\n\n

Me dedico a ayudar a las organizaciones a adoptar la IA, y quiero que avancen m\u00e1s r\u00e1pido. Los empleados ganan confianza cuando pueden experimentar dentro de unos l\u00edmites que se mantienen incluso bajo presi\u00f3n. E3\u2019s Debate de octubre sobre el ERP aut\u00f3nomo<\/span><\/a> Anima acertadamente a los clientes de SAP a pensar m\u00e1s all\u00e1 de la antigua distinci\u00f3n entre el software determinista y los modelos de lenguaje. La siguiente pregunta a la hora de comprar es m\u00e1s sencilla y ofrece m\u00e1s posibilidades de actuaci\u00f3n: mu\u00e9strame qu\u00e9 puede cambiar este agente, qui\u00e9n puede detenerlo y las pruebas de que esa detenci\u00f3n realmente funciona.<\/p>\n\n\n\n

<\/p>","protected":false},"excerpt":{"rendered":"

Los agentes de IA aut\u00f3nomos pueden acelerar los procesos de SAP, pero tambi\u00e9n plantean nuevos riesgos de seguridad. Las empresas deben definir claramente qu\u00e9 pueden hacer los agentes, aplicar controles de acceso estrictos y garantizar que los permisos puedan revocarse de forma fiable antes de concederles una mayor autonom\u00eda.<\/p>","protected":false},"author":5894,"featured_media":161547,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"pmpro_default_level":"","footnotes":""},"categories":[10,7,45769],"tags":[45433,45629,8179,73,45766,44225,45331,45429,44725,45765,44782,45764,236,45137,45763,45130],"coauthors":[45762],"class_list":["post-168030","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-das-aktuelle-stichwort","category-meinung","category-web-only","tag-agentische-ki","tag-autonome-ki","tag-berechtigungsmanagement","tag-erp","tag-erp-sicherheit","tag-ki-agenten","tag-ki-automatisierung","tag-ki-compliance","tag-ki-governance","tag-ki-risikomanagement","tag-ki-sicherheit","tag-menschliche-kontrolle","tag-sap","tag-sap-sicherheit","tag-unternehmens-ki","tag-zugriffskontrolle","pmpro-has-access"],"acf":[],"featured_image_urls_v2":{"full":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"thumbnail":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-150x150.jpg",150,150,true],"medium":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-400x180.jpg",400,180,true],"medium_large":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-768x346.jpg",768,346,true],"large":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"image-100":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-100x45.jpg",100,45,true],"image-480":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-480x216.jpg",480,216,true],"image-640":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-640x288.jpg",640,288,true],"image-720":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-720x324.jpg",720,324,true],"image-960":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-960x432.jpg",960,432,true],"image-1168":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"image-1440":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"image-1920":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"1536x1536":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"2048x2048":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"trp-custom-language-flag":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-18x8.jpg",18,8,true],"bricks_large_16x9":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"bricks_large":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"bricks_large_square":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"bricks_medium":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-600x270.jpg",600,270,true],"bricks_medium_square":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-600x450.jpg",600,450,true],"profile_24":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-24x24.jpg",24,24,true],"profile_48":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-48x48.jpg",48,48,true],"profile_96":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-96x96.jpg",96,96,true],"profile_150":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-150x150.jpg",150,150,true],"profile_300":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-300x300.jpg",300,300,true]},"post_excerpt_stackable_v2":"

Autonomous AI agents can accelerate SAP processes but introduce new security risks. Companies must clearly define what agents are allowed to do, enforce strict access controls, and ensure permissions can be reliably revoked before granting greater autonomy.<\/p>\n","category_list_v2":"Das aktuelle Stichwort<\/a>, Die Meinung der SAP-Community<\/a>, Web Only<\/a>","author_info_v2":{"name":"Dr. Gleb Tsipursky","url":"https:\/\/e3mag.com\/es\/author\/gleb-tsipursky\/"},"comments_num_v2":"0 comentarios","_links":{"self":[{"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/posts\/168030","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/users\/5894"}],"replies":[{"embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/comments?post=168030"}],"version-history":[{"count":2,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/posts\/168030\/revisions"}],"predecessor-version":[{"id":168070,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/posts\/168030\/revisions\/168070"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/media\/161547"}],"wp:attachment":[{"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/media?parent=168030"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/categories?post=168030"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/tags?post=168030"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/coauthors?post=168030"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}