Generative KI in SAP On-Premise

Die Zukunft der KI ist vielversprechend: Unternehmen träumen von mehr Produktivität, sinkenden Kosten und Wettbewerbsvorteilen. Der Einsatz von Chatbots ermöglicht eine leichtere Bedienung von SAP-Funktionen, ein effizienteres Wissensmanagement sowie Unterstützung in der Bearbeitung von Supportanfragen und beim Programmieren. Die Potenziale von KI-unterstützten SAP-Funktionen liegen insbesondere im leichteren Zugang zu SAP-Anwendungen durch natürliche Sprache. Firmenspezifische organisatorische Vorgaben können in Klarschrift, als „prompt“, den Anwendungen ohne Programmierkenntnisse mitgegeben werden.

Weitere Spezifizierungen ermöglichen dann die Ausführung anstehender Aufgaben. Dabei wird die Unterhaltung mit dem Chatbot so lange verfeinert, bis das gewünschte Ergebnis vorliegt. Mit Zugriff auf firmenspezifische Dokumente können auch detaillierte Analysen und Auswertungen vorgenommen werden. Sie tauchen dann am Bildschirm nicht nur in Textform auf, sondern auf Wunsch auch als KI-generierte Grafik, Tabelle oder in Bildform. So bildet der Einsatz von Chatbots die Basis für solide Unternehmensentscheidungen angesichts eines immer komplexeren Marktgeschehens.

Mehrwert für die Arbeit mit SAP-Businessdaten generieren

Der Weg hin zum Einsatz von KI in SAP beginnt bei der Definition von Use Cases und Zielen. Die Frage, welche die Branche bewegt, lautet: Wo bringt KI im Zusammenhang mit Businessdaten aus SAP Mehrwert? Erste Anwendungsgebiete zeigen sich im Chatten mit SAP-Dokumenten. So lassen sich etwa Businessdaten abfragen. Ein zweites Szenario zeigt sich in der leichteren Bedienung komplexer SAP-Prozesse. Vorab muss dazu intern entschieden werden, ob der Chatbot auf firmenspezifische Dokumente zugreifen und damit Wissen daraus ziehen und verarbeiten darf. Spätestens an dieser Stelle stellt sich die Gretchenfrage: Cloud oder On-Premise?

On-Premise oder Cloud: Sicherheit versus Innovation?

Viele Unternehmen nutzen SAP On-Premise, weil für sie die sicherheitsrelevanten Vorteile überwiegen. Dabei lassen sich lokale Lösungen verbunden mit einem entsprechenden Aufwand auf die individuellen Bedürfnisse des Unternehmens zuschneiden – ein entscheidender Grund, nicht einfach in die Cloud zu wechseln. Denn je weiter in der Cloud die Daten liegen, desto weniger Kontrolle über Datensicherheit bleibt. Auch wenn Cloudlösungen mit einer höheren Skalierbarkeit, Zugang zu modernen Technologien und geringeren Betriebskosten einhergehen, sind die Risiken vielen zu hoch. Betriebe, die SAP On-Premise nutzen, stecken beim Thema KI mit den Optionen, auf die Cloud umzusatteln, ein anderes ERP einzuführen oder von der KI abgeschnitten zu bleiben, in der Sackgasse.

SAP-Anwendungsfälle brauchen keine Serverfarmen

Für SAP-Beratungsunternehmen steht dabei fest, dass es auch für On-Premise Angebote geben muss. Jüngst ging das Mil­liarum AI Construction Kit als Infrastrukturlösung an den Markt. Es wurde speziell für Unternehmen entwickelt, die ihr SAP-System um Funktionen auf Basis von KI erweitern möchten. Mit vorkonfigurierten Auslieferungsumfängen sind damit Chatbots sofort einsatzbereit. In Kürze folgen erste modulspezifische Chatbots für SAP On-Premise. Dabei verfolgt man eine Flexibilität, welche es Unternehmen ermöglicht, das Large-Language-Modell (LLM) auszusuchen und lokal mit einem eigenen KI-System zu verbinden.

Basis der Überlegungen ist die Annahme, dass bei der Abwägung zwischen Sicherheit und Innovation für die meisten Unternehmen lokale KI-Modelle ausreichend sind: Um mit SAP-Daten zu chatten, braucht es keinen gigantischen Chatbot, der über 100 Sprachen spricht und mit mehreren Hundert Milliarden Parametern antrainiert wurde, wenn am Ende nur Deutsch für begrenzte Use Cases zum Einsatz kommen soll. Eine Serverfarm dürfte für die meisten Anwendungsfälle im SAP-Umfeld dann auch nicht notwendig sein.

Nachhaltiger Einsatz generativer KI im SAP-Umfeld

KI in SAP setzt auch die Wahl eines Hosters voraus, der den Sicherheitsanforderungen gerecht wird. Dabei kann man sich für die großen Player am Markt, wie OpenAI oder Microsoft Azure, entscheiden. Eine Alternative stellen lokale Open Source LLMs auf unternehmenseigener Hardware dar.

Neben dem monetären Aspekt spart das viel Strom im Vergleich zu riesigen Rechenzentren, welche in der Regel cloudbasierten Lösungen zugrunde liegen. Sie setzen keine unternehmens­eigene Hardware voraus und basieren meist auf einer Nutzungsgebühr je nach Anzahl der eingegebenen Wörter. Dabei kommen Unternehmen schnell auf einen Kostenfaktor, der einer lokalen Lösung kaum nachsteht. Cloudbasierte Lösungen sind bei entsprechender Vorbereitung bereits nach einem Tag lauffähig.

Lokale Lösungen setzen hingegen die Anschaffung der Hardware voraus. Sie muss dann ins Unternehmensnetzwerk eingebunden und das KI-Modell aufgesattelt sowie mit den eigenen Parametern antrainiert werden. Dabei ist die Einführung zwar komplex, der Betrieb entspricht aber den eigenen Sicherheitsanforderungen und die laufenden Kosten sind deutlich geringer als bei cloudbasierten Lösungen, bei denen jeder API-Zugriff vergütet wird.

Autonome SAP-Prozesse, damit die KI „intelligent“ wird

Der Schlüssel zum Mehrwert generativer KI in SAP liegt in den Daten: je besser, desto leistungsfähiger die KI. Ihre Vorbereitung ist ein zentraler Schritt auf dem Weg in die KI. Dabei ist es allerdings weniger aufwändig, SAP-Dokumente einzubringen. Die Businessdaten liegen ja bereits in SAP vor und sie aufzurufen macht die KI noch nicht „intelligent“. Vielmehr geht es darum, Daten sowohl aus SAP zu ziehen als auch sie zu verarbeiten und wieder in SAP einzuspielen. Dabei bewegt die Experten auch die Frage, ob und inwieweit der Einsatz von KI Produktivitätsvorteile bringt.

Während KI heute vor allem als reine Chat-Funktion und in Programmierumgebungen für die Erstellung von Auswertungen direkt aus SAP-Daten und zur Erstellung und Änderung von SAP-Objekten zum Einsatz kommt, wird es zukünftig möglich sein, komplette Prozesse in SAP auf Basis natürlicher Sprache zu bedienen. Der Einsatz von generativer KI im SAP-Umfeld steckt noch in den Kinderschuhen: Das tatsächliche Potenzial, ob cloudbasiert oder On-Premise, muss sich erst noch bewähren.

milliarum.de