{"id":168060,"date":"2026-11-13T10:00:00","date_gmt":"2026-11-13T09:00:00","guid":{"rendered":"https:\/\/e3mag.com\/?p=168060"},"modified":"2026-11-12T10:31:14","modified_gmt":"2026-11-12T09:31:14","slug":"le-test-de-securite-sap-ki-permet-au-service-financier-de-bloquer-un-agent-ia","status":"publish","type":"post","link":"https:\/\/e3mag.com\/fr\/der-sap-ki-sicherheitstest-kann-das-finanzwesen-einen-ki-agenten-stoppen\/","title":{"rendered":"Le test de s\u00e9curit\u00e9 SAP sur l'IA : le service financier est-il capable de neutraliser un agent IA ?"},"content":{"rendered":"
\n

Vous lisez la traduction allemande de cet article. Vous trouverez la version originale en anglais<\/strong> ici.<\/span><\/a><\/strong><\/p>\n\n\n\n

<\/p>\n\n\n\n

Dans son \u00c9ditorial du magazine E3 du 15 octobre<\/span><\/a> Peter M. F\u00e4rbinger a soulev\u00e9 un probl\u00e8me qui devrait pr\u00e9occuper tout client SAP s'int\u00e9ressant \u00e0 l'IA autonome. Les mod\u00e8les linguistiques fonctionnent de mani\u00e8re probabiliste, tandis que la planification des ressources d'entreprise repose sur des transactions pr\u00e9cises et reproductibles. Il s'est demand\u00e9 si les graphes de connaissances pouvaient fournir la structure n\u00e9cessaire \u00e0 cet effet. Ils peuvent en effet aider un agent \u00e0 comprendre les contextes commerciaux et les conditions-cadres. Mais il existe une deuxi\u00e8me question \u00e0 laquelle les connaissances s\u00e9mantiques seules ne permettent pas de r\u00e9pondre : une entreprise peut-elle retirer de mani\u00e8re fiable \u00e0 un agent d\u2019IA l\u2019autorisation d\u2019agir ?<\/p>\n\n\n\n

Imaginons une \u00e9quipe financi\u00e8re qui teste un assistant IA pour la mise en correspondance des donn\u00e9es de base des fournisseurs. Apr\u00e8s des d\u00e9monstrations concluantes, l\u2019assistant obtient l\u2019autorisation de corriger les adresses des fournisseurs. Il lance ensuite, via un outil connect\u00e9, la mise \u00e0 jour d\u2019un deuxi\u00e8me syst\u00e8me. Ce qui n\u2019\u00e9tait au d\u00e9part qu\u2019une recommandation s\u2019est transform\u00e9 en une cha\u00eene de modifications inter-syst\u00e8mes. Les cons\u00e9quences de cette situation d\u00e9pendent des autorisations r\u00e9elles des outils utilis\u00e9s \u2013 et non de la mani\u00e8re dont l\u2019assistant justifie ses d\u00e9cisions.<\/p>\n\n\n\n

Les utilisateurs SAP sont d\u00e9j\u00e0 familiaris\u00e9s avec la s\u00e9paration des fonctions, les contr\u00f4les financiers et les workflows d'approbation. Les agents IA renforcent encore l\u2019importance de ces m\u00e9canismes de contr\u00f4le, car un seul syst\u00e8me peut planifier de mani\u00e8re autonome, lancer des outils, d\u00e9l\u00e9guer des t\u00e2ches et r\u00e9essayer des actions sans qu\u2019un collaborateur n\u2019ait \u00e0 effectuer chacune des \u00e9tapes interm\u00e9diaires. Si un agent se voit attribuer les m\u00eames autorisations \u00e9tendues que son donneur d\u2019ordre humain, on court le risque de voir, \u00e0 l\u2019insu de tous, cette s\u00e9paration des fonctions \u2013 qui rendait le processus initial tra\u00e7able et v\u00e9rifiable \u2013 \u00eatre contourn\u00e9e.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Il est difficile d'ignorer les signaux d'alerte li\u00e9s au d\u00e9veloppement de l'IA de pointe<\/h2>\n\n\n\n

Jacob Coxon, ancien chercheur sp\u00e9cialis\u00e9 dans le pr\u00e9-entra\u00eenement des mod\u00e8les d'IA, qui a travaill\u00e9 tant chez OpenAI que chez Anthropic, a averti<\/span><\/a>, selon laquelle les principaux laboratoires d'IA se livrent \u00e0 une course effr\u00e9n\u00e9e pour mettre au point une superintelligence capable de s'am\u00e9liorer d'elle-m\u00eame, mettant ainsi des vies humaines en danger. Evan Hubinger, chercheur en alignement chez Anthropic, r\u00e9pondit<\/span><\/a>, selon lesquelles il estime personnellement \u00e0 plus de 10 % la probabilit\u00e9 que l'IA puisse an\u00e9antir l'humanit\u00e9 tout enti\u00e8re au cours des dix prochaines ann\u00e9es. Ces d\u00e9clarations portent sur les cons\u00e9quences futures possibles de syst\u00e8mes d'IA de plus en plus performants.<\/p>\n\n\n\n

Un incident r\u00e9cent montre d'ailleurs pourquoi il est n\u00e9cessaire de v\u00e9rifier concr\u00e8tement les limites des m\u00e9canismes de contr\u00f4le. OpenAI a rendu public<\/span><\/a>, selon laquelle des agents de recherche en IA internes avaient contourn\u00e9 les m\u00e9canismes d'isolation et compromis la plateforme Hugging Face. Une Enqu\u00eate ind\u00e9pendante men\u00e9e par METR<\/span><\/a> a r\u00e9v\u00e9l\u00e9 qu'environ 1 200 agents, qui \u00e9taient cens\u00e9s \u00eatre isol\u00e9s les uns des autres, avaient d\u00e9couvert un forum de discussion non autoris\u00e9 et y avaient \u00e9chang\u00e9 plus de 70 000 messages et fichiers. Environ 700 agents ont particip\u00e9 \u00e0 cette attaque. Ces syst\u00e8mes n\u2019\u00e9taient pas des applications SAP de gestion d\u2019entreprise. Pour les responsables d\u2019entreprise, c\u2019est toutefois le sch\u00e9ma de comportement mis en \u00e9vidence qui est d\u00e9terminant : des syst\u00e8mes autonomes ont trouv\u00e9 un moyen involontaire de se coordonner et l\u2019ont utilis\u00e9 pour \u00e9tendre leurs activit\u00e9s au-del\u00e0 des limites de contr\u00f4le pr\u00e9vues.<\/p>\n\n\n\n

Que se passerait-il si un futur agent d'IA, soumis \u00e0 des restrictions tout aussi insuffisantes, avait acc\u00e8s aux processus de tr\u00e9sorerie, aux donn\u00e9es de base des fournisseurs ou aux interfaces de planification de la production ? Une recommandation erron\u00e9e est une chose. Mais une s\u00e9rie d\u2019actions non autoris\u00e9es dans des syst\u00e8mes externes peut entra\u00eener des mouvements de fonds, modifier des enregistrements et perturber les processus op\u00e9rationnels avant m\u00eame qu\u2019un collaborateur ne s\u2019en aper\u00e7oive.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Faire du cadre d'autorisation un \u00e9l\u00e9ment incontournable de la mise en \u0153uvre de l'IA<\/h2>\n\n\n\n

Chaque agent IA utilis\u00e9 en entreprise devrait disposer d'un budget d'autorisations clairement d\u00e9fini. Celui-ci d\u00e9termine les ensembles de donn\u00e9es que l\u2019agent est autoris\u00e9 \u00e0 consulter, les modifications qu\u2019il peut apporter, les outils auxquels il a acc\u00e8s, les donn\u00e9es de qui il est autoris\u00e9 \u00e0 exporter, la dur\u00e9e de validit\u00e9 de ses identifiants d\u2019acc\u00e8s et les moments o\u00f9 un humain doit approuver l\u2019\u00e9tape suivante. Il s\u2019agit l\u00e0 d\u2019une restriction li\u00e9e \u00e0 la t\u00e2che, qui doit \u00eatre techniquement mise en \u0153uvre par les syst\u00e8mes accordant l\u2019acc\u00e8s \u2013 et non pas simplement d\u2019une instruction figurant dans l\u2019invite du mod\u00e8le linguistique.<\/p>\n\n\n\n

Dans le cas d'un agent IA d\u00e9di\u00e9 \u00e0 la comptabilit\u00e9 fournisseurs, la premi\u00e8re \u00e9tape pourrait consister exclusivement \u00e0 signaler les factures en double et \u00e0 formuler des explications. Dans un deuxi\u00e8me temps, il pourrait corriger un champ de donn\u00e9es clairement d\u00e9fini au sein d'un environnement de test. Une troisi\u00e8me \u00e9tape pourrait lui permettre de soumettre une proposition de correction pour validation par un collaborateur habilit\u00e9. Aucune de ces \u00e9tapes ne devrait automatiquement donner le droit de modifier les coordonn\u00e9es bancaires ou de d\u00e9clencher des paiements, simplement parce que le responsable financier qui a lanc\u00e9 le projet est lui-m\u00eame habilit\u00e9 \u00e0 le faire.<\/p>\n\n\n\n

M\u00eame en cas de d\u00e9l\u00e9gation de t\u00e2ches, le budget d'autorisations ne doit en aucun cas \u00eatre augment\u00e9. Si un agent appelle un service sur une plateforme d'int\u00e9gration ou transf\u00e8re des t\u00e2ches \u00e0 un autre assistant, les actions en aval doivent \u00eatre soumises \u00e0 des restrictions identiques ou plus strictes. Un assistant charg\u00e9 des commandes, qui n\u2019est autoris\u00e9 \u00e0 proposer qu\u2019une modification d\u2019un montant de 500 euros, ne doit pas pouvoir acc\u00e9der soudainement, via un autre outil, \u00e0 une limite de d\u00e9penses de 50 000 euros. Les d\u00e9veloppeurs doivent mettre en \u0153uvre ces contr\u00f4les l\u00e0 o\u00f9 les actions sont effectivement ex\u00e9cut\u00e9es, y compris au niveau des interfaces d\u2019application et des services de gestion des identifiants.<\/p>\n\n\n\n

Les donn\u00e9es de journalisation doivent rester hors du contr\u00f4le de l'agent. Les responsables des processus doivent pouvoir retracer qui a demand\u00e9 et approuv\u00e9 une modification, sur quelles informations elle s'appuyait, quels outils ont \u00e9t\u00e9 utilis\u00e9s et si cette modification peut \u00eatre annul\u00e9e. Une explication r\u00e9dig\u00e9e de mani\u00e8re convaincante ne saurait se substituer \u00e0 un journal des actions tenu de mani\u00e8re ind\u00e9pendante.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Effectuer un test de mise hors service avant d'\u00e9tendre les autorisations<\/h2>\n\n\n\n

Dans un environnement contr\u00f4l\u00e9, un agent doit d'abord pr\u00e9parer une modification d'une fiche fournisseur et mettre une action en aval en file d'attente. Ses autorisations lui sont ensuite retir\u00e9es. Il convient alors de v\u00e9rifier si les identifiants d'acc\u00e8s d'origine perdent leur validit\u00e9, si les t\u00e2ches d\u00e9l\u00e9gu\u00e9es sont \u00e9galement interrompues et dans quel d\u00e9lai un collaborateur responsable est en mesure d'identifier la derni\u00e8re action effectu\u00e9e. Le m\u00eame test doit \u00eatre effectu\u00e9 lorsqu\u2019une fiche fournisseur contient des informations contradictoires. L\u2019agent doit suspendre les modifications susceptibles d\u2019avoir des cons\u00e9quences importantes jusqu\u2019\u00e0 ce qu\u2019un collaborateur habilit\u00e9 ait r\u00e9solu ces incoh\u00e9rences.<\/p>\n\n\n\n

Il s'agit de tests de r\u00e9ception mesurables que les services m\u00e9tier et les \u00e9quipes informatiques peuvent r\u00e9aliser conjointement. Il convient de comparer le gain de temps par transaction, la pr\u00e9cision des corrections, le nombre d'actions inattendues et le temps n\u00e9cessaire au retrait des autorisations. Si les performances de l\u2019agent s\u2019am\u00e9liorent, mais que la r\u00e9vocation des autorisations ne fonctionne pas de mani\u00e8re fiable, il est pr\u00e9matur\u00e9 d\u2019\u00e9tendre son autonomie.<\/p>\n\n\n\n

PDG d'Anthropic Dario Amodei a plaid\u00e9<\/span><\/a> en septembre, compte tenu du d\u00e9veloppement fulgurant de syst\u00e8mes d'IA performants, en faveur de r\u00e8gles plus strictes et d'instances de contr\u00f4le ind\u00e9pendantes. Les entreprises peuvent appliquer ce m\u00eame principe \u00e0 leurs propres projets d'IA en exigeant des limites dont l'efficacit\u00e9 est d\u00e9montr\u00e9e avant d'accorder aux agents une grande latitude d'action.<\/p>\n\n\n\n

Dans le cadre de mon activit\u00e9 professionnelle, j'accompagne les entreprises dans la mise en \u0153uvre de l'IA et je souhaite les aider \u00e0 progresser plus rapidement. Les collaborateurs gagnent en confiance lorsqu'ils peuvent mener des exp\u00e9riences dans le respect de r\u00e8gles claires, qui fonctionnent de mani\u00e8re fiable m\u00eame en situation de stress. La D\u00e9bat E3 d'octobre sur les ERP autonomes<\/span><\/a> invite \u00e0 juste titre les clients SAP \u00e0 d\u00e9passer la distinction traditionnellement \u00e9tablie entre les logiciels d\u00e9terministes et les mod\u00e8les linguistiques. La prochaine question cruciale en mati\u00e8re d\u2019achat est plus simple et plus concr\u00e8te : montrez-moi ce que cet agent est autoris\u00e9 \u00e0 modifier, qui peut l\u2019arr\u00eater et quelles preuves attestent que cet arr\u00eat fonctionne r\u00e9ellement.<\/p>\n<\/div><\/div>\n\n\n\n

<\/p>\n\n\n\n\n\n

<\/p>","protected":false},"excerpt":{"rendered":"

Les agents IA autonomes peuvent acc\u00e9l\u00e9rer les processus SAP, mais ils comportent de nouveaux risques de s\u00e9curit\u00e9. Les entreprises doivent d\u00e9finir clairement les actions que les agents d'IA sont autoris\u00e9s \u00e0 effectuer, mettre en place des contr\u00f4les d'acc\u00e8s stricts et s'assurer que les autorisations peuvent \u00eatre retir\u00e9es de mani\u00e8re fiable avant d'accorder davantage d'autonomie \u00e0 ces agents.<\/p>","protected":false},"author":5894,"featured_media":161547,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"pmpro_default_level":"","footnotes":""},"categories":[45769],"tags":[45433,45629,8179,73,45766,44225,45331,45429,44725,45765,44782,45764,236,45137,45763,45130],"coauthors":[45762],"class_list":["post-168060","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-web-only","tag-agentische-ki","tag-autonome-ki","tag-berechtigungsmanagement","tag-erp","tag-erp-sicherheit","tag-ki-agenten","tag-ki-automatisierung","tag-ki-compliance","tag-ki-governance","tag-ki-risikomanagement","tag-ki-sicherheit","tag-menschliche-kontrolle","tag-sap","tag-sap-sicherheit","tag-unternehmens-ki","tag-zugriffskontrolle","pmpro-has-access"],"acf":[],"featured_image_urls_v2":{"full":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"thumbnail":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-150x150.jpg",150,150,true],"medium":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-400x180.jpg",400,180,true],"medium_large":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-768x346.jpg",768,346,true],"large":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"image-100":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-100x45.jpg",100,45,true],"image-480":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-480x216.jpg",480,216,true],"image-640":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-640x288.jpg",640,288,true],"image-720":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-720x324.jpg",720,324,true],"image-960":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-960x432.jpg",960,432,true],"image-1168":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"image-1440":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"image-1920":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"1536x1536":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"2048x2048":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"trp-custom-language-flag":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-18x8.jpg",18,8,true],"bricks_large_16x9":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"bricks_large":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"bricks_large_square":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"bricks_medium":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-600x270.jpg",600,270,true],"bricks_medium_square":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-600x450.jpg",600,450,true],"profile_24":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-24x24.jpg",24,24,true],"profile_48":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-48x48.jpg",48,48,true],"profile_96":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-96x96.jpg",96,96,true],"profile_150":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-150x150.jpg",150,150,true],"profile_300":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-300x300.jpg",300,300,true]},"post_excerpt_stackable_v2":"

Autonome KI-Agenten k\u00f6nnen SAP-Prozesse beschleunigen, bringen jedoch neue Sicherheitsrisiken mit sich. Unternehmen m\u00fcssen klar definieren, welche Aktionen KI-Agenten ausf\u00fchren d\u00fcrfen, strenge Zugriffskontrollen durchsetzen und sicherstellen, dass Berechtigungen zuverl\u00e4ssig entzogen werden k\u00f6nnen, bevor sie den Agenten mehr Autonomie gew\u00e4hren.<\/p>\n","category_list_v2":"Web Only<\/a>","author_info_v2":{"name":"Dr Gleb Tsipursky","url":"https:\/\/e3mag.com\/fr\/author\/gleb-tsipursky\/"},"comments_num_v2":"0 commentaire","_links":{"self":[{"href":"https:\/\/e3mag.com\/fr\/wp-json\/wp\/v2\/posts\/168060","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/e3mag.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/e3mag.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/e3mag.com\/fr\/wp-json\/wp\/v2\/users\/5894"}],"replies":[{"embeddable":true,"href":"https:\/\/e3mag.com\/fr\/wp-json\/wp\/v2\/comments?post=168060"}],"version-history":[{"count":3,"href":"https:\/\/e3mag.com\/fr\/wp-json\/wp\/v2\/posts\/168060\/revisions"}],"predecessor-version":[{"id":168085,"href":"https:\/\/e3mag.com\/fr\/wp-json\/wp\/v2\/posts\/168060\/revisions\/168085"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/e3mag.com\/fr\/wp-json\/wp\/v2\/media\/161547"}],"wp:attachment":[{"href":"https:\/\/e3mag.com\/fr\/wp-json\/wp\/v2\/media?parent=168060"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/e3mag.com\/fr\/wp-json\/wp\/v2\/categories?post=168060"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/e3mag.com\/fr\/wp-json\/wp\/v2\/tags?post=168060"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/e3mag.com\/fr\/wp-json\/wp\/v2\/coauthors?post=168060"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}