{"id":168060,"date":"2026-11-13T10:00:00","date_gmt":"2026-11-13T09:00:00","guid":{"rendered":"https:\/\/e3mag.com\/?p=168060"},"modified":"2026-11-12T10:31:14","modified_gmt":"2026-11-12T09:31:14","slug":"la-prueba-de-seguridad-de-sap-ki-puede-el-departamento-financiero-detener-a-un-agente-de-ia","status":"publish","type":"post","link":"https:\/\/e3mag.com\/es\/der-sap-ki-sicherheitstest-kann-das-finanzwesen-einen-ki-agenten-stoppen\/","title":{"rendered":"La prueba de seguridad de IA de SAP: \u00bfpuede el departamento financiero detener a un agente de IA?"},"content":{"rendered":"
\n

Est\u00e1 leyendo la traducci\u00f3n al alem\u00e1n de este art\u00edculo. Puede consultar la versi\u00f3n original en ingl\u00e9s<\/strong> aqu\u00ed.<\/span><\/a><\/strong><\/p>\n\n\n\n

<\/p>\n\n\n\n

En su Editorial de la revista E3 del 15 de octubre<\/span><\/a> Peter M. F\u00e4rbinger plante\u00f3 un problema que deber\u00eda preocupar a cualquier cliente de SAP que se ocupe de la IA aut\u00f3noma. Los modelos de lenguaje funcionan de forma probabil\u00edstica, mientras que la planificaci\u00f3n de recursos empresariales (ERP) se basa en transacciones precisas y reproducibles. Se pregunt\u00f3 si los grafos de conocimiento podr\u00edan proporcionar la estructura necesaria para ello. De hecho, pueden ayudar a un agente a comprender las relaciones empresariales y las condiciones marco. Sin embargo, hay una segunda pregunta que no puede responderse \u00fanicamente con conocimiento sem\u00e1ntico: \u00bfpuede una empresa retirar de forma fiable la autorizaci\u00f3n para actuar a un agente de IA?<\/p>\n\n\n\n

Imaginemos un equipo financiero que est\u00e1 probando un asistente de IA para cotejar los datos maestros de los proveedores. Tras unas demostraciones satisfactorias, el asistente recibe autorizaci\u00f3n para corregir las direcciones de los proveedores. A continuaci\u00f3n, a trav\u00e9s de una herramienta conectada, ordena la actualizaci\u00f3n de un segundo sistema. Lo que comenz\u00f3 como una recomendaci\u00f3n se ha convertido en una cadena de cambios que abarca varios sistemas. Las consecuencias que esto tenga depender\u00e1n de los permisos reales de las herramientas utilizadas, y no de lo convincente que sea el asistente a la hora de justificar sus decisiones.<\/p>\n\n\n\n

Los usuarios de SAP ya est\u00e1n familiarizados con la separaci\u00f3n de funciones, los controles financieros y los flujos de trabajo de autorizaci\u00f3n. Los agentes de IA hacen que estos mecanismos de control cobren a\u00fan m\u00e1s importancia, ya que un \u00fanico sistema puede planificar de forma aut\u00f3noma, acceder a herramientas, delegar tareas y reintentar acciones sin que un empleado tenga que realizar cada uno de los pasos intermedios. Si un agente recibe los mismos permisos amplios que su responsable humano, existe el riesgo de que se eluda, sin que nadie se d\u00e9 cuenta, precisamente esa separaci\u00f3n de funciones que hac\u00eda que el proceso original fuera trazable y verificable.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Es casi imposible ignorar las se\u00f1ales de alerta que nos env\u00eda el desarrollo de la IA m\u00e1s avanzada<\/h2>\n\n\n\n

Jacob Coxon, un antiguo investigador en el \u00e1mbito del preentrenamiento de modelos de IA que trabaj\u00f3 tanto en OpenAI como en Anthropic, advirti\u00f3<\/span><\/a>, que los principales laboratorios de IA se encuentran inmersos en una carrera por crear una superinteligencia capaz de mejorarse a s\u00ed misma, poniendo en peligro vidas humanas. Evan Hubinger, investigador en alineaci\u00f3n en Anthropic, respondi\u00f3<\/span><\/a>, que estima personalmente que la probabilidad de que la IA pueda acabar con toda la humanidad en los pr\u00f3ximos diez a\u00f1os es superior al diez por ciento. Estas afirmaciones se refieren a las posibles consecuencias futuras de unos sistemas de IA cada vez m\u00e1s potentes.<\/p>\n\n\n\n

Mientras tanto, un incidente reciente pone de manifiesto por qu\u00e9 es necesario comprobar en la pr\u00e1ctica los l\u00edmites de los mecanismos de control. OpenAI lo hizo p\u00fablico<\/span><\/a>, que unos agentes internos de investigaci\u00f3n en IA hab\u00edan eludido los mecanismos de aislamiento y hab\u00edan comprometido la plataforma Hugging Face. Una Investigaci\u00f3n independiente de METR<\/span><\/a> Se descubri\u00f3 que unos 1.200 agentes, que en principio deb\u00edan estar aislados entre s\u00ed, encontraron un foro de mensajes no autorizado y, a trav\u00e9s de \u00e9l, intercambiaron m\u00e1s de 70.000 mensajes y archivos. Unos 700 agentes participaron en el ataque. Estos sistemas no eran aplicaciones SAP de gesti\u00f3n empresarial. Sin embargo, para los responsables de las empresas, lo decisivo es el patr\u00f3n de comportamiento demostrado: los sistemas aut\u00f3nomos encontraron una v\u00eda involuntaria de coordinaci\u00f3n y la utilizaron para ampliar sus actividades m\u00e1s all\u00e1 de los l\u00edmites de control previstos.<\/p>\n\n\n\n

\u00bfQu\u00e9 ocurrir\u00eda si un futuro agente de IA, con limitaciones igualmente insuficientes, tuviera acceso a los procesos de tesorer\u00eda, a los datos maestros de proveedores o a las interfaces de planificaci\u00f3n de la producci\u00f3n? Una recomendaci\u00f3n err\u00f3nea es una cosa. Sin embargo, una cadena de acciones no autorizadas en sistemas externos puede mover dinero, modificar registros de datos y perturbar los procesos operativos antes de que ning\u00fan empleado se d\u00e9 cuenta de nada.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Convertir el marco de autorizaciones en un elemento vinculante de la implantaci\u00f3n de la IA<\/h2>\n\n\n\n

Cada agente de IA utilizado en el \u00e1mbito empresarial deber\u00eda disponer de un presupuesto de permisos claramente definido. Este presupuesto establece qu\u00e9 conjuntos de datos puede consultar el agente, qu\u00e9 modificaciones puede realizar, a qu\u00e9 herramientas puede acceder, qu\u00e9 datos puede exportar, cu\u00e1nto tiempo son v\u00e1lidas sus credenciales de acceso y cu\u00e1ndo debe un ser humano autorizar el siguiente paso. Se trata de una restricci\u00f3n relacionada con las tareas que debe ser aplicada t\u00e9cnicamente por los sistemas que conceden el acceso, y no solo de una instrucci\u00f3n en el mensaje del modelo de lenguaje.<\/p>\n\n\n\n

En el caso de un agente de IA para la contabilidad de acreedores, la primera fase de desarrollo podr\u00eda consistir exclusivamente en se\u00f1alar las facturas duplicadas y redactar explicaciones. En una segunda fase, podr\u00eda corregir un campo de datos claramente definido dentro de un entorno de prueba. Una tercera fase podr\u00eda permitirle presentar una propuesta de correcci\u00f3n para que la apruebe un empleado autorizado. Ninguna de estas fases deber\u00eda recibir autom\u00e1ticamente la autorizaci\u00f3n para modificar datos bancarios o iniciar pagos, solo porque el directivo del departamento financiero que haya encargado el proyecto est\u00e9 autorizado a hacerlo.<\/p>\n\n\n\n

El presupuesto de autorizaciones tampoco debe aumentar nunca, incluso cuando se delegan tareas. Si un agente accede a un servicio en una plataforma de integraci\u00f3n o transfiere tareas a otro asistente, deben aplicarse las mismas restricciones, o incluso m\u00e1s estrictas, a las acciones posteriores. Un asistente de pedidos que solo pueda proponer una modificaci\u00f3n por valor de 500 euros no debe poder acceder de repente, a trav\u00e9s de otra herramienta, a un l\u00edmite de gasto de 50 000 euros. Los desarrolladores deben implementar estas comprobaciones all\u00ed donde se ejecutan realmente las acciones, incluidas las interfaces de las aplicaciones y los servicios de gesti\u00f3n de credenciales.<\/p>\n\n\n\n

Los datos de registro deben permanecer fuera del control del agente. Los responsables del proceso deben poder rastrear qui\u00e9n solicit\u00f3 y autoriz\u00f3 un cambio, en qu\u00e9 informaci\u00f3n se bas\u00f3, qu\u00e9 herramientas se utilizaron y si el cambio puede revertirse. Una explicaci\u00f3n convincente desde el punto de vista ling\u00fc\u00edstico no puede sustituir a un registro de acciones llevado de forma independiente.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Realizar una prueba de desconexi\u00f3n antes de ampliar los permisos<\/h2>\n\n\n\n

En un entorno controlado, un agente deber\u00eda, en primer lugar, preparar una modificaci\u00f3n en un registro maestro de proveedor y poner en cola una acci\u00f3n posterior. A continuaci\u00f3n, se le retiran sus permisos. En este proceso, hay que evaluar si los datos de acceso originales dejan de ser v\u00e1lidos, si tambi\u00e9n se detienen las tareas delegadas y con qu\u00e9 rapidez puede identificar un empleado responsable la \u00faltima acci\u00f3n realizada. Deber\u00eda realizarse la misma prueba cuando un registro maestro de proveedor contenga informaci\u00f3n contradictoria. El agente debe posponer los cambios que puedan tener repercusiones significativas hasta que un empleado autorizado haya aclarado las discrepancias.<\/p>\n\n\n\n

Se trata de pruebas de aceptaci\u00f3n cuantificables que los departamentos especializados y los equipos de TI pueden llevar a cabo conjuntamente. Se deben comparar el ahorro de tiempo por transacci\u00f3n, la precisi\u00f3n de las correcciones, el n\u00famero de acciones inesperadas y el tiempo necesario para revocar los permisos. Aunque mejore el rendimiento del agente, si la retirada de permisos no funciona de forma fiable, es prematuro ampliar su autonom\u00eda.<\/p>\n\n\n\n

Director general de Anthropic Dario Amodei abog\u00f3 por<\/span><\/a> En septiembre, ante el r\u00e1pido avance de los sistemas de IA de alto rendimiento, se abog\u00f3 por normas m\u00e1s estrictas y organismos de control independientes. Las empresas pueden aplicar este mismo principio a sus propios proyectos de IA exigiendo l\u00edmites de eficacia demostrada antes de conceder a los agentes amplias capacidades de actuaci\u00f3n.<\/p>\n\n\n\n

Ayudo profesionalmente a las empresas a implantar la IA y quiero que avancen m\u00e1s r\u00e1pido. Los empleados ganan confianza cuando pueden experimentar dentro de unas normas claras que funcionan de forma fiable incluso bajo presi\u00f3n. La Debate de E3 celebrado en octubre sobre el ERP aut\u00f3nomo<\/span><\/a> Insta, con raz\u00f3n, a los clientes de SAP a ir m\u00e1s all\u00e1 de la distinci\u00f3n tradicional entre software determinista y modelos de lenguaje. La siguiente pregunta clave a la hora de adquirir este tipo de soluciones es m\u00e1s sencilla y m\u00e1s pr\u00e1ctica: mu\u00e9streme qu\u00e9 puede modificar este agente, qui\u00e9n puede detenerlo y qu\u00e9 pruebas demuestran que esa detenci\u00f3n funciona realmente.<\/p>\n<\/div><\/div>\n\n\n\n

<\/p>\n\n\n\n\n\n

<\/p>","protected":false},"excerpt":{"rendered":"

Los agentes aut\u00f3nomos de IA pueden agilizar los procesos de SAP, pero tambi\u00e9n conllevan nuevos riesgos de seguridad. Las empresas deben definir claramente qu\u00e9 acciones pueden realizar los agentes de IA, aplicar controles de acceso estrictos y garantizar que se puedan revocar los permisos de forma fiable antes de conceder m\u00e1s autonom\u00eda a los agentes.<\/p>","protected":false},"author":5894,"featured_media":161547,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"pmpro_default_level":"","footnotes":""},"categories":[45769],"tags":[45433,45629,8179,73,45766,44225,45331,45429,44725,45765,44782,45764,236,45137,45763,45130],"coauthors":[45762],"class_list":["post-168060","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-web-only","tag-agentische-ki","tag-autonome-ki","tag-berechtigungsmanagement","tag-erp","tag-erp-sicherheit","tag-ki-agenten","tag-ki-automatisierung","tag-ki-compliance","tag-ki-governance","tag-ki-risikomanagement","tag-ki-sicherheit","tag-menschliche-kontrolle","tag-sap","tag-sap-sicherheit","tag-unternehmens-ki","tag-zugriffskontrolle","pmpro-has-access"],"acf":[],"featured_image_urls_v2":{"full":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"thumbnail":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-150x150.jpg",150,150,true],"medium":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-400x180.jpg",400,180,true],"medium_large":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-768x346.jpg",768,346,true],"large":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"image-100":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-100x45.jpg",100,45,true],"image-480":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-480x216.jpg",480,216,true],"image-640":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-640x288.jpg",640,288,true],"image-720":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-720x324.jpg",720,324,true],"image-960":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-960x432.jpg",960,432,true],"image-1168":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"image-1440":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"image-1920":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"1536x1536":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"2048x2048":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"trp-custom-language-flag":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-18x8.jpg",18,8,true],"bricks_large_16x9":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"bricks_large":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"bricks_large_square":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"bricks_medium":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-600x270.jpg",600,270,true],"bricks_medium_square":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-600x450.jpg",600,450,true],"profile_24":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-24x24.jpg",24,24,true],"profile_48":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-48x48.jpg",48,48,true],"profile_96":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-96x96.jpg",96,96,true],"profile_150":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-150x150.jpg",150,150,true],"profile_300":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-300x300.jpg",300,300,true]},"post_excerpt_stackable_v2":"

Autonome KI-Agenten k\u00f6nnen SAP-Prozesse beschleunigen, bringen jedoch neue Sicherheitsrisiken mit sich. Unternehmen m\u00fcssen klar definieren, welche Aktionen KI-Agenten ausf\u00fchren d\u00fcrfen, strenge Zugriffskontrollen durchsetzen und sicherstellen, dass Berechtigungen zuverl\u00e4ssig entzogen werden k\u00f6nnen, bevor sie den Agenten mehr Autonomie gew\u00e4hren.<\/p>\n","category_list_v2":"Web Only<\/a>","author_info_v2":{"name":"Dr. Gleb Tsipursky","url":"https:\/\/e3mag.com\/es\/author\/gleb-tsipursky\/"},"comments_num_v2":"0 comentarios","_links":{"self":[{"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/posts\/168060","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/users\/5894"}],"replies":[{"embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/comments?post=168060"}],"version-history":[{"count":3,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/posts\/168060\/revisions"}],"predecessor-version":[{"id":168085,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/posts\/168060\/revisions\/168085"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/media\/161547"}],"wp:attachment":[{"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/media?parent=168060"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/categories?post=168060"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/tags?post=168060"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/coauthors?post=168060"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}