Risiko bei ERP-KI von SAP

Simple-Finance-Betrug nach Cum-Ex

Stark vereinfacht wiedergegeben, haben die Macher des Cum-Ex-Steuerbetrugs die einschlägigen Besteuerungsgesetze so lange gelesen und ausgewertet, bis sie ein vermeintliches Schlupfloch gefunden haben. Viele Experten waren sich viele Jahre in der Bewertung unsicher, erst eine umfassende Prüfung hat dieses Vorgehen als Steuerbetrug klassifiziert.

Stark vereinfacht wiedergegeben, macht ein Large-Language-Modell (LLM) als Basis fast jeder generativen KI kaum etwas anderes. Milliarden von Daten werden gelesen und statistisch erfasst – KI hat mehr mit Statistik zu tun, als viele Anwender glauben. Das Ergebnis ist eine Antwort, die auf dem verarbeiteten Datenmaterial beruht. Nun kann imaginiert werden, dass nach einschlägigem Literaturstudium auch eine generative KI wahrscheinlich das Steuerschlupfloch entdeckt hätte.

Was für Antworten darf ein S/4-Anwender erwarten, wenn ein Large-Language-Modell mit den Daten aller SAP-Simple-Finance-Installationen versorgt wurde? Die Antwort muss nicht moralisch oder betriebswirtschaftlich korrekt sein. Sie muss nicht einmal legal sein, siehe Cum-Ex-Steuerbetrug. Aber die Antwort wird naturgemäß statistisch korrekt sein im Sinne des KI-Algorithmus und des LLM.

Generative KI ohne Metaebene

Naturgemäß kann eine generative KI kein moralischer Kompass sein, aber wie weit die KI-Antworten vom wirklichen Leben entfernt sein können, zeigte vor wenigen Tagen die KI-Software Gemini von Google – trotz allerbester Vorsätze, Transparenz und Diversität.

Das Google-Programm wurde aufgefordert, Soldaten in deutschen Uniformen aus dem Zweiten Weltkrieg zu zeigen: Im Zeitalter von Diversifikation entstanden somit Soldatenbilder mit asiatischen Gesichtszügen und dunkler Hautfarbe. Eine weitere Anfrage erbrachte noch weibliche Päpste – möglicherweise Wunschdenken, aber nicht die Realität. Google hat versprochen, den KI-Bildgenerator zu überarbeiten. Im deutschsprachigen Handelsblatt online hier nachzulesen.

Bei vielen KI-Programmen fehlt eine Metaebene, die korrigierend eingreift. Ein simpler Algorithmus zur Historie der katholischen Kirche hätte einen weiblichen Papst sehr unwahrscheinlich erscheinen lassen, trotz jeder Sympathie für Diversität! Die reale Welt lässt sich eben nicht nur mit Statistik erklären und abbilden – auch wenn diese Funktionen extrem raffiniert und anspruchsvoll sind: Mindestens ein Doktorratsstudium ist die Voraussetzung.

SAP entzieht sich jeder Verantwortung

Auch in der ERP-Welt von SAP spielt KI eine entscheidende Rolle. SAP investierte in das deutsche Start-up Aleph Alpha, aber blieb jede Antwort schuldig, wie denn nun ein KI-Customizing mit S/4 funktionieren könnte. Für viele Experten klingt es nach einem „wir wollen, aber wir trauen uns nicht“. Jede Art von Risikoabschätzung und Risikovermeidung bleibt SAP aktuell schuldig. Was passiert, wenn die Simple-Finance-KI irreguläre Empfehlungen abgibt?

Der deutschsprachige Anwenderverein DSAG sieht es offensichtlich weniger kritisch, wenn SAP die Verantwortung an die Anwender weiterschiebt. Offensichtlich reicht es, Werkzeuge zur Verfügung zu stellen. Den Unfug, den die Anwender damit vielleicht anstellen, sollen diese auch selbst verantworten, oder?

Positiv in diesem Zusammenhang wird von DSAG e. V. die Bekanntgabe eines generativen SAP-AI-Hubs bei der vergangenen SAP-TechEd in Bangalore, Indien, bewertet. Die auf der SAP Business Technology Platform (BTP) existierenden SAP-AI-Core und SAP-AI-Launchpad werden um diesen generativen AI-Hub erweitert, um die Anbindung an externe LLM-Modelle, genau genommen zunächst Open AI, anzusteuern. Zudem ist die Abrechnung über ein eigenes Preismodell (AI Units) geplant. Zusammengefasst: SAP vermittelt die Nutzung von ChatGPT (Open AI), verlangt dafür Gebühren, übernimmt aber keine Haftung und Verantwortung.

Auch zur Einführung von SAP-Joule soll der neue Fokus von SAP auf Business-AI deutlich werden. Dieser sprachgesteuerte KI-Assistent auf Basis generativer KI soll den Geschäftskontext verstehen und direkt in das Cloud-Portfolio für geschäftskritische Prozesse von Anwenderunternehmen integriert sein. Diese Ausrichtung, dass künftig Business-Prozesse in Verbindung mit KI in den Fokus rücken, hatte Thomas Saueressig, SAP-Vorstand Product Engineering, in seiner Keynote beim DSAG-Jahreskongress 2023 bereits konkretisiert. Der Software-Hersteller möchte hier nach eigenen Angaben verstärkt auf Partner wie z. B. Open AI setzen. Was aber SAP sowohl beim DSAG-Jahreskongress 2023 in Bremen verschwieg als auch heute noch, sind die Übernahme von Verantwortung, die Darlegung der Risiken und Abwendung von Schäden, wenn Joule eine korrupte oder illegitime Antwort gibt. Was dann?

„Grundsätzlich begrüßen wir diese strategische Ausrichtung von SAP – gerade vor dem Hintergrund der dynamischen Entwicklungen rund um die großen Modelle wie Open AI etc. Allerdings sind für uns aus kommerzieller, fachlicher und technologischer Sicht noch einige Fragen offen“, so mahnt zumindest DSAG-Technikvorstand Sebastian Westphal ein wenig Verantwortung und Risikoabschätzung ein. Es muss nachweisbar sein, dass bei Prozessentscheidungen durch eine KI geltende Richtlinien ausgeführt und dokumentiert werden. Aus technologischer Warte wäre wichtig, wie mit den sensiblen Unternehmensinformationen umgegangen wird, die bei der Nutzung herangezogen werden. Wie lernt die KI? Was benutzt ein LLM? Das wäre dann die nächste SAP-Baustelle: indirekte Nutzung.