AI Doomsayers


An Bord eines Passagierdampfers von New York nach Buenos Aires gewinnt Dr. B. die Schachpartie gegen den amtierenden Weltmeister. Das Spiel lässt Erinnerungen an die Isolationshaft durch die Nationalsozialisten wach werden und gefährdet Dr. B.s Gesundheit. Die Schachnovelle ist ein Text von Stefan Zweig (1881 bis 1942), den er im brasilianischen Exil fertigstellte. Es ist sein letztes und zugleich bekanntestes Werk.
Seit vielen Jahren gibt es KI-Algorithmen, die durch Reinforcement Learning aus ihren Fehlern lernen – und so zu Meistern von strategischen Spielen wie Schach und Go werden. Diese Art des Lernens beherrschen Sprachmodelle wie ChatGPT bisher nicht. Dr. B. brachte es mit humanem Reinforcement Learning in der Isolationshaft der Nationalsozialisten in Wien zu wahrer Meisterschaft im Schachspiel.
Reinforcement Learning liefert eine Rückkopplung, damit KI-Programme sich hinterfragen und aus ihren Fehlern lernen. Am Ende kommt die KI zu einer korrekten und beweisbaren Antwort. Somit könnte auch die Dystopie der KI- Weltuntergangsprediger eintreten: Der amerikanische Forscher und ehemalige OpenAI-Mitarbeiter Daniel Kokotajlo erklärte in einem Gespräch mit dem Nachrichtenmagazin Der Spiegel (29/2025), warum KI bald menschliche Tätigkeiten übernehmen und sich dann gegen ihre Erfinder wenden könnte: „Sobald keine Täuschung mehr nötig ist, löscht sie die Menschheit aus.“
Der Weg ist bereitet. Der Zeitpunkt dieser Singularität ist unbekannt, aber wie Vieles wird es einer exponentiellen Entwicklung folgen: Zuerst liegt ein Reiskorn auf dem ersten Schachfeld, dann zwei, dann vier, dann acht usw. Am Ende, auf Feld 64, liegen so viele Reiskörner, dass ganz Deutschland meterhoch unter Reis begraben wäre.
Es kann schnell gehen und die IT-Szene inklusive SAP sollte sich Gedanken über zukünftige Geschäftsmodelle machen. Diese Disruption ist nicht nur schmerzhaft, sondern auch schwierig, wie Harvard-Professor Clayton M. Christensen (1952 bis 2020) in seinem Buch „The Innovator’s Dilemma“ trefflich formulierte: „Wenn ein Unternehmen versucht, eine disruptive Technologie so weit zu entwickeln, dass sie den Anforderungen der Kunden in etablierten Märkten entspricht ‒ was die meisten führenden Unternehmen tun ‒ ist ihr Scheitern so gut wie sicher.“
Ein Reinforcement-Learning- Programm könnte Buchhaltung, Controlling und Logistik studieren und den SAP-Bestandskunden ein besseres, vielleicht lizenzfreies (Open Source) ERP-System präsentieren. Diese Disruption ist ein Innovator’s Dilemma und ein Doomsday für SAP. Genau genommen: Es ist nur eine Frage der Zeit, wann die SAP-Aktien nichts mehr wert sind, oder?