SAP Joule Operating System

SAP Joule – mehr Spezialist als Universalist

Die Wirkmächtigkeit von LLMs (Large Language Models) liegt in ihrer Universalität. Damit widersprechen sie dem Zeitgeist der Spezialisierung. Während in den vergangenen Jahrzehnten immer mehr Spezialprogramme den ERP-Softwaremarkt fluteten und damit einen Wildwuchs an Schnittstellen und Datensilos produzierten, sind KI-Systeme wie ChatGPT und die dazugehörigen LLMs genau das Gegenteil.

Gerne und oft beginnen LLMs zu fabulieren und zu phantasieren – wer will einem „Universalgelehrten“ solche Ausrutscher und Abschweifungen nicht verzeihen? Im harten Alltag des ERP-Geschäfts geht es hingegen um Präzision und Spezialisierung. Was als Widerspruch erscheint, kann auch als Chance begriffen werden: Mit Hilfe von KI-Agenten könnten zukünftig LLMs angeleitet und diszipliniert werden. KI-Agenten wären dann die Spezialisten auf der Grundlage von universellen LLMs.

Betriebssystem für KI-Agenten und LLMs

Die Idee einer Metaebene für Large Language Models als ein KI-Betriebssystem für Chat GPT und Co. ist nicht neu. Bereits Jonas Andrulis, Mitgründer des deutschen KI-Start-Ups Aleph Alpha, hatte die Idee, ein Verwaltungsnetzwerk für mehrere und unterschiedliche LLMs zu entwickeln.

Jonas Andrulis machte aus der Not eine Tugend: Weil die eigenen Ressourcen für das weltbeste LLM nicht ausreichten, wurde die Idee geboren, die weltbesten LLMs mit Hilfe eines Betriebssystems zu einem Meta-System zu konfigurieren. Eine Metaebene für LLMs und eventuell auch KI-Agenten könnte sich weiterentwickeln zu einem Operating System für KI-Anwendungen wie SAP Joule.

SAP BTP versus KI Operating System

Bereits mit SAP BTP (Business Technology Platform) gibt es einen sehr interessanten Ansatz, um LLMs zu administrieren und zu orchestrieren. Ein sogenannter AI-Gen-Hub in der BTP ermöglicht die Verwendung und Administration unterschiedlicher LLMs, sodass für den jeweiligen Anwendungsfall das passende KI-System ausgewählt werden kann.

Die Weiterentwicklung des BTP-AI-Hubs zu einem Artificial Intelligence Operating System wäre eine lohnenswerte Herausforderung und könnte die Orchestrierung von LLMs und zukünftig von SAP Joule weiter vereinfachen.

KI-Orchestrierung statt Plattform-Chaos

Sollte der Hype um KI-Agenten in der ERP-Realität ankommen, dann werden die SAP-Bestandskunden ein IT-Werkzeug für das KI-Agent-Management brauchen. Damit sich die KI-Agenten eines Tages nicht selbst im Weg stehen oder nicht miteinander, sondern gegeneinander arbeiten, wird es eine Plattform zur Konsolidierung aller KI-Aufgaben brauchen. Diese Meta-Plattform für alle KI-Agentenplattformen wird dem Grunde nach ein Betriebssystem für KI-Umgebungen werden.

Zu viele KI-Agenten für End-to-End-Prozesse im ERP-Umfeld würden sich gegenseitig im Weg stehen. Ohne Administrationswerkzeuge für KI-Agenten droht Wildwuchs und Chaos. Ein KI-Agent-Management wäre eine Lösung. Letztendlich wird es dann auch eine Metaebene für das KI-Agent-Management geben. Wer die Bibel der Computerkultur „Gödel, Escher, Bach“ von Douglas R. Hofstadter gelesen hat, der weiß um die Wirkmächtigkeit von Metaebenen (nicht zu verwechseln mit dem IT-Konzern Meta). Oft lassen sich (mathematische) Probleme nicht unmittelbar lösen. Eine Transformation auf eine abstrakte Metaebene fördert eine neue Perspektive auf das Problem und nicht selten eröffnet sich dann eine Lösung.