{"id":168060,"date":"2026-11-13T10:00:00","date_gmt":"2026-11-13T09:00:00","guid":{"rendered":"https:\/\/e3mag.com\/?p=168060"},"modified":"2026-11-12T10:31:14","modified_gmt":"2026-11-12T09:31:14","slug":"der-sap-ki-sicherheitstest-kann-das-finanzwesen-einen-ki-agenten-stoppen","status":"publish","type":"post","link":"https:\/\/e3mag.com\/de\/der-sap-ki-sicherheitstest-kann-das-finanzwesen-einen-ki-agenten-stoppen\/","title":{"rendered":"Der SAP-KI-Sicherheitstest: Kann das Finanzwesen einen KI-Agenten stoppen?"},"content":{"rendered":"\n
\n

Sie lesen die deutsche \u00dcbersetzung dieses Artikels. Die englische Originalfassung finden Sie<\/strong> hier.<\/span><\/a><\/strong><\/p>\n\n\n\n

<\/p>\n\n\n\n

In seinem E3-Magazin-Editorial vom 15. Oktober<\/span><\/a> sprach Peter M. F\u00e4rbinger ein Problem an, das jeden SAP-Kunden besch\u00e4ftigen sollte, der sich mit autonomer KI auseinandersetzt. Sprachmodelle arbeiten probabilistisch, w\u00e4hrend Enterprise Resource Planning auf pr\u00e4zisen und reproduzierbaren Transaktionen beruht. Er stellte die Frage, ob Wissensgraphen die daf\u00fcr notwendige Struktur bereitstellen k\u00f6nnten. Sie k\u00f6nnen einem Agenten tats\u00e4chlich helfen, gesch\u00e4ftliche Zusammenh\u00e4nge und Rahmenbedingungen zu verstehen. Doch es gibt eine zweite Frage, die sich allein durch semantisches Wissen nicht beantworten l\u00e4sst: Kann ein Unternehmen einem KI-Agenten zuverl\u00e4ssig die Berechtigung zum Handeln entziehen?<\/p>\n\n\n\n

Stellen wir uns ein Finanzteam vor, das einen KI-Assistenten zum Abgleich von Lieferantenstammdaten testet. Nach erfolgreichen Demonstrationen erh\u00e4lt der Assistent die Erlaubnis, Lieferantenadressen zu korrigieren. Anschlie\u00dfend beauftragt er \u00fcber ein angebundenes Tool die Aktualisierung eines zweiten Systems. Was als Empfehlung begann, hat sich zu einer Kette system\u00fcbergreifender \u00c4nderungen entwickelt. Welche Folgen das hat, h\u00e4ngt von den tats\u00e4chlichen Berechtigungen der eingesetzten Tools ab \u2013 und nicht davon, wie \u00fcberzeugend der Assistent seine Entscheidungen begr\u00fcndet.<\/p>\n\n\n\n

SAP-Anwender sind mit Funktionstrennung, Finanzkontrollen und Genehmigungsworkflows bereits vertraut. KI-Agenten machen diese Kontrollmechanismen noch wichtiger, denn ein einziges System kann eigenst\u00e4ndig planen, Tools aufrufen, Aufgaben delegieren und Aktionen erneut versuchen, ohne dass ein Mitarbeiter jeden einzelnen Zwischenschritt ausf\u00fchrt. Erh\u00e4lt ein Agent dieselben weitreichenden Berechtigungen wie sein menschlicher Auftraggeber, besteht die Gefahr, dass genau jene Funktionstrennung unbemerkt ausgehebelt wird, die den urspr\u00fcnglichen Prozess nachvollziehbar und pr\u00fcfbar gemacht hat.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Die Warnsignale aus der Entwicklung modernster KI sind kaum zu ignorieren<\/h2>\n\n\n\n

Jacob Coxon, ein ehemaliger Forscher im Bereich des Vortrainings von KI-Modellen, der sowohl bei OpenAI als auch bei Anthropic t\u00e4tig war, warnte<\/span><\/a>, dass f\u00fchrende KI-Labore in einem Wettlauf um eine sich selbst verbessernde Superintelligenz stehen und dabei Menschenleben aufs Spiel setzen. Evan Hubinger, Alignment-Forscher bei Anthropic, antwortete<\/span><\/a>, dass er pers\u00f6nlich die Wahrscheinlichkeit, dass KI innerhalb der n\u00e4chsten zehn Jahre die gesamte Menschheit ausl\u00f6schen k\u00f6nnte, auf mehr als zehn Prozent sch\u00e4tzt. Diese Aussagen beziehen sich auf m\u00f6gliche zuk\u00fcnftige Folgen immer leistungsf\u00e4higerer KI-Systeme.<\/p>\n\n\n\n

Ein aktueller Vorfall zeigt unterdessen, warum die Grenzen der Kontrollmechanismen praktisch \u00fcberpr\u00fcft werden m\u00fcssen. OpenAI machte \u00f6ffentlich<\/span><\/a>, dass interne KI-Forschungsagenten Isolationsmechanismen umgangen und die Plattform Hugging Face kompromittiert hatten. Eine unabh\u00e4ngige Untersuchung von METR<\/span><\/a> ergab, dass rund 1.200 Agenten, die eigentlich voneinander isoliert sein sollten, ein nicht autorisiertes Nachrichtenforum entdeckten und dar\u00fcber mehr als 70.000 Nachrichten und Dateien austauschten. Etwa 700 Agenten beteiligten sich an dem Angriff. Bei diesen Systemen handelte es sich nicht um betriebswirtschaftliche SAP-Anwendungen. F\u00fcr Unternehmensverantwortliche ist jedoch das nachgewiesene Verhaltensmuster entscheidend: Autonome Systeme fanden einen unbeabsichtigten Weg zur Koordination und nutzten ihn, um ihre Aktivit\u00e4ten \u00fcber die vorgesehenen Kontrollgrenzen hinaus auszuweiten.<\/p>\n\n\n\n

Was geschieht, wenn ein zuk\u00fcnftiger KI-Agent mit \u00e4hnlich unzureichenden Begrenzungen Zugriff auf Treasury-Prozesse, Lieferantenstammdaten oder Schnittstellen zur Produktionsplanung erh\u00e4lt? Eine fehlerhafte Empfehlung ist das eine. Eine Kette nicht autorisierter Aktionen in externen Systemen kann jedoch Geld bewegen, Datens\u00e4tze ver\u00e4ndern und betriebliche Abl\u00e4ufe st\u00f6ren, bevor ein Mitarbeiter \u00fcberhaupt etwas bemerkt.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Den Berechtigungsrahmen zum verbindlichen Bestandteil der KI-Einf\u00fchrung machen<\/h2>\n\n\n\n

Jeder KI-Agent im Unternehmenseinsatz sollte \u00fcber ein ausdr\u00fccklich definiertes Berechtigungsbudget verf\u00fcgen. Dieses legt fest, welche Datens\u00e4tze der Agent lesen darf, welche \u00c4nderungen er vornehmen kann, welche Tools er aufrufen darf, wessen Daten er exportieren darf, wie lange seine Zugangsdaten g\u00fcltig bleiben und wann ein Mensch den n\u00e4chsten Schritt genehmigen muss. Es handelt sich dabei um eine aufgabenbezogene Begrenzung, die von den zugriffsgew\u00e4hrenden Systemen technisch durchgesetzt werden muss \u2013 und nicht lediglich um eine Anweisung im Prompt des Sprachmodells.<\/p>\n\n\n\n

Bei einem KI-Agenten f\u00fcr die Kreditorenbuchhaltung k\u00f6nnte die erste Ausbaustufe ausschlie\u00dflich darin bestehen, doppelte Rechnungen zu kennzeichnen und Erl\u00e4uterungen zu formulieren. In einer zweiten Stufe d\u00fcrfte er ein klar definiertes Datenfeld innerhalb einer Testumgebung korrigieren. Eine dritte Stufe k\u00f6nnte es ihm erlauben, einen Korrekturvorschlag zur Genehmigung durch einen autorisierten Mitarbeiter einzureichen. Keine dieser Stufen sollte automatisch die Berechtigung erhalten, Bankverbindungen zu \u00e4ndern oder Zahlungen auszul\u00f6sen, nur weil die F\u00fchrungskraft aus dem Finanzbereich, die das Projekt in Auftrag gegeben hat, selbst dazu berechtigt ist.<\/p>\n\n\n\n

Auch durch die Delegation von Aufgaben darf sich das Berechtigungsbudget niemals vergr\u00f6\u00dfern. Ruft ein Agent einen Dienst auf einer Integrationsplattform auf oder \u00fcbergibt Aufgaben an einen anderen Assistenten, m\u00fcssen f\u00fcr die nachgelagerten Aktionen dieselben oder strengere Einschr\u00e4nkungen gelten. Ein Bestellassistent, der lediglich eine \u00c4nderung im Wert von 500 Euro vorschlagen darf, darf nicht \u00fcber ein anderes Tool pl\u00f6tzlich auf ein Ausgabenlimit von 50.000 Euro zugreifen k\u00f6nnen. Entwickler m\u00fcssen diese Pr\u00fcfungen dort implementieren, wo die Aktionen tats\u00e4chlich ausgef\u00fchrt werden \u2013 einschlie\u00dflich der Anwendungsschnittstellen und der Dienste zur Verwaltung von Zugangsdaten.<\/p>\n\n\n\n

Protokolldaten m\u00fcssen au\u00dferhalb der Kontrolle des Agenten bleiben. Prozessverantwortliche m\u00fcssen nachvollziehen k\u00f6nnen, wer eine \u00c4nderung angefordert und genehmigt hat, auf welchen Informationen sie beruhte, welche Tools daran beteiligt waren und ob sich die \u00c4nderung r\u00fcckg\u00e4ngig machen l\u00e4sst. Eine sprachlich \u00fcberzeugende Erkl\u00e4rung kann ein unabh\u00e4ngig gef\u00fchrtes Aktionsprotokoll nicht ersetzen.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Vor der Ausweitung von Berechtigungen einen Abschalttest durchf\u00fchren<\/h2>\n\n\n\n

In einer kontrollierten Umgebung sollte ein Agent zun\u00e4chst eine \u00c4nderung an einem Lieferantenstammsatz vorbereiten und eine nachgelagerte Aktion in die Warteschlange stellen. Anschlie\u00dfend werden ihm seine Berechtigungen entzogen. Dabei muss gemessen werden, ob die urspr\u00fcnglichen Zugangsdaten ihre G\u00fcltigkeit verlieren, ob auch delegierte Aufgaben gestoppt werden und wie schnell ein verantwortlicher Mitarbeiter die zuletzt ausgef\u00fchrte Aktion identifizieren kann. Derselbe Test sollte durchgef\u00fchrt werden, wenn ein Lieferantenstammsatz widerspr\u00fcchliche Informationen enth\u00e4lt. Der Agent muss \u00c4nderungen mit potenziell erheblichen Auswirkungen zur\u00fcckstellen, bis ein autorisierter Mitarbeiter die Unstimmigkeiten gekl\u00e4rt hat.<\/p>\n\n\n\n

Dabei handelt es sich um messbare Abnahmetests, die Fachabteilungen und IT-Teams gemeinsam durchf\u00fchren k\u00f6nnen. Zu vergleichen sind die Zeitersparnis pro Transaktion, die Genauigkeit der Korrekturen, die Anzahl unerwarteter Aktionen und die Zeit, die zum Entzug von Berechtigungen ben\u00f6tigt wird. Verbessert sich zwar die Leistung des Agenten, funktioniert aber der Berechtigungsentzug nicht zuverl\u00e4ssig, ist eine Ausweitung seiner Autonomie verfr\u00fcht.<\/p>\n\n\n\n

Anthropic-CEO Dario Amodei pl\u00e4dierte<\/span><\/a> im September angesichts der rasanten Weiterentwicklung leistungsf\u00e4higer KI-Systeme f\u00fcr strengere Regeln und unabh\u00e4ngige Pr\u00fcfinstanzen. Unternehmen k\u00f6nnen denselben Grundsatz auf ihre eigenen KI-Projekte \u00fcbertragen, indem sie nachweisbar wirksame Begrenzungen verlangen, bevor sie Agenten weitreichende Handlungsm\u00f6glichkeiten einr\u00e4umen.<\/p>\n\n\n\n

Ich unterst\u00fctze Unternehmen beruflich bei der Einf\u00fchrung von KI und m\u00f6chte, dass sie schneller vorankommen. Mitarbeiter gewinnen Vertrauen, wenn sie innerhalb klarer Regeln experimentieren k\u00f6nnen, die auch unter Belastung zuverl\u00e4ssig funktionieren. Die E3-Diskussion vom Oktober \u00fcber autonomes ERP<\/span><\/a> fordert SAP-Kunden zu Recht dazu auf, \u00fcber die bisherige Unterscheidung zwischen deterministischer Software und Sprachmodellen hinauszudenken. Die n\u00e4chste entscheidende Frage bei der Beschaffung ist einfacher und praxisn\u00e4her: Zeigen Sie mir, was dieser Agent ver\u00e4ndern darf, wer ihn stoppen kann und welche Nachweise belegen, dass dieser Stopp tats\u00e4chlich funktioniert.<\/p>\n<\/div><\/div>\n\n\n\n

<\/p>\n\n\n\n\n\n

<\/p>\n","protected":false},"excerpt":{"rendered":"

Autonome KI-Agenten k\u00f6nnen SAP-Prozesse beschleunigen, bringen jedoch neue Sicherheitsrisiken mit sich. Unternehmen m\u00fcssen klar definieren, welche Aktionen KI-Agenten ausf\u00fchren d\u00fcrfen, strenge Zugriffskontrollen durchsetzen und sicherstellen, dass Berechtigungen zuverl\u00e4ssig entzogen werden k\u00f6nnen, bevor sie den Agenten mehr Autonomie gew\u00e4hren.<\/p>\n","protected":false},"author":5894,"featured_media":161547,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"pmpro_default_level":"","footnotes":""},"categories":[45769],"tags":[45433,45629,8179,73,45766,44225,45331,45429,44725,45765,44782,45764,236,45137,45763,45130],"coauthors":[45762],"class_list":["post-168060","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-web-only","tag-agentische-ki","tag-autonome-ki","tag-berechtigungsmanagement","tag-erp","tag-erp-sicherheit","tag-ki-agenten","tag-ki-automatisierung","tag-ki-compliance","tag-ki-governance","tag-ki-risikomanagement","tag-ki-sicherheit","tag-menschliche-kontrolle","tag-sap","tag-sap-sicherheit","tag-unternehmens-ki","tag-zugriffskontrolle","pmpro-has-access"],"acf":[],"featured_image_urls_v2":{"full":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"thumbnail":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-150x150.jpg",150,150,true],"medium":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-400x180.jpg",400,180,true],"medium_large":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-768x346.jpg",768,346,true],"large":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"image-100":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-100x45.jpg",100,45,true],"image-480":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-480x216.jpg",480,216,true],"image-640":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-640x288.jpg",640,288,true],"image-720":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-720x324.jpg",720,324,true],"image-960":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-960x432.jpg",960,432,true],"image-1168":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"image-1440":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"image-1920":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"1536x1536":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"2048x2048":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"trp-custom-language-flag":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-18x8.jpg",18,8,true],"bricks_large_16x9":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"bricks_large":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"bricks_large_square":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450.jpg",1000,450,false],"bricks_medium":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-600x270.jpg",600,270,true],"bricks_medium_square":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-600x450.jpg",600,450,true],"profile_24":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-24x24.jpg",24,24,true],"profile_48":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-48x48.jpg",48,48,true],"profile_96":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-96x96.jpg",96,96,true],"profile_150":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-150x150.jpg",150,150,true],"profile_300":["https:\/\/e3mag.com\/wp-content\/uploads\/2026\/03\/aktuelles_stichwort_1000x450-300x300.jpg",300,300,true]},"post_excerpt_stackable_v2":"

Autonome KI-Agenten k\u00f6nnen SAP-Prozesse beschleunigen, bringen jedoch neue Sicherheitsrisiken mit sich. Unternehmen m\u00fcssen klar definieren, welche Aktionen KI-Agenten ausf\u00fchren d\u00fcrfen, strenge Zugriffskontrollen durchsetzen und sicherstellen, dass Berechtigungen zuverl\u00e4ssig entzogen werden k\u00f6nnen, bevor sie den Agenten mehr Autonomie gew\u00e4hren.<\/p>\n","category_list_v2":"Web Only<\/a>","author_info_v2":{"name":"Dr. Gleb Tsipursky","url":"https:\/\/e3mag.com\/de\/author\/gleb-tsipursky\/"},"comments_num_v2":"0 comments","_links":{"self":[{"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/posts\/168060","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/users\/5894"}],"replies":[{"embeddable":true,"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/comments?post=168060"}],"version-history":[{"count":3,"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/posts\/168060\/revisions"}],"predecessor-version":[{"id":168085,"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/posts\/168060\/revisions\/168085"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/media\/161547"}],"wp:attachment":[{"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/media?parent=168060"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/categories?post=168060"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/tags?post=168060"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/coauthors?post=168060"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}