Kommentar von DSAG-Vorstand Sebastian Westphal zu den Entwicklungen beim AI-Act

Die Deutschsprachige SAP-Anwendergruppe (DSAG) hat die neuesten Entwicklungen zum Anlass genommen und die Wichtigkeit eines potenziellen EU-AI-Acts bewertet. Es kommentiert Sebastian Westphal, DSAG-Technologievorstand.

„Die geplante KI-Regulierung der EU soll dazu dienen, mögliche Risiken von KI zu reduzieren und Gefahren, die mit ihrem Einsatz verbunden sein können, zu unterbinden. Gleichzeitig soll sie jedoch keine Überregulierung darstellen, die Innovationen in Europa hemmt und die Unternehmen belastet. Die finale Gesetzgebung besitzt somit das Potenzial, die Entwicklungs- und Verbreitungsgeschwindigkeit von KI-Anwendungen stark zu beeinflussen. 

Alle KI-Beteiligten sollten sich daher frühzeitig mit den möglichen Auswirkungen auf Wirtschaft und Gesellschaft auseinandersetzen. Denn schon auf Basis der aktuellen Diskussion sind der zu erwartende Rechtsrahmen für vertrauenswürdige KI und wesentliche Schlüsselelemente einer Regulierung ersichtlich. Diese werden nicht nur die Anbieter von KI-Systemen betreffen, sondern auch die Unternehmen, die eigenverantwortlich ein KI-System verwenden, sowie alle Beteiligten entlang der KI-Wertschöpfungskette.

Definition, Regulierung, Risiko

Aus DSAG-Sicht braucht es dringend eine Balance zwischen Regulierung und Förderung von KI-Innovationen. Denn schon die Einordnung von KI-Anwendungen, wie sie der AI-Act vorsieht, ist hochproblematisch: Er konzentriert sich auf verbotene sogenannte Hochrisikoanwendungen, ohne dass hierfür eine klar eingrenzbare Definition dieser Anwendungen bereits möglich wäre.  Die unterschiedlichen Definitionen der aktuellen Verhandlungspartner reichen teilweise sehr weit und könnten bei strenger Auslegung sogar statistische Software oder KI-unterstützte Auswertungsprozesse beinhalten. Sofern dieser weitreichenden Definition stattgegeben wird, resultieren daraus Auflagen, die den Einsatz von KI an vielen Stellen unterbinden werden, wo er aber für Erleichterung und Effizienz sorgen könnte – bspw. bei der Digitalisierung der öffentlichen Verwaltung.

Die aktuellen Schwerpunkte in der Diskussion, nämlich „Deepfakes“ und „Großraum Urheberrecht“, sind aus DSAG-Sicht problematisch. Bezogen auf Deepfakes sind die großen Probleme kaum mit den derzeitigen Regulierungsinstrumenten und Verboten in den Griff zu bekommen. Und in Sachen „Großraum Urheberrecht“ hat die EU in der Vergangenheit bereits bei der Einführung der Datenschutzgrundverordnung (DSGVO) eine schlechte Figur abgegeben. Auch, wenn Deepfakes und das Urheberrecht relevant sind, so sind sie bei der Regulierung von KI nur zwei Szenarien unter vielen.

“Die KI-Regulierung der EU soll dazu dienen, mögliche Risiken von KI zu reduzieren und
Gefahren zu unterbinden.“

Sebastian Westphal,
Technologievorstand,
DSAG

Einen Knackpunkt wird die Risikoklassifizierung der Anwendungsfälle darstellen. Neben der Einschätzung der Systeme selbst stellt sich auch die Frage, wer eigentlich all die KI-basierten „Hochrisikosysteme“ zertifizieren soll. Es gilt zu verhindern, dass die EU sich hier einen unnötigen und kostenintensiven Verwaltungsvorgang auferlegt, dessen damit verbundenen Aufwand sich vielleicht Großunternehmen werden leisten können, aber nicht kleine und mittelständische Unternehmen. Die Gefahr, dass die EU bei einer entsprechenden Überregulierung von China und Amerika im Rahmen der rasanten Entwicklung rund um die AI-Technologien technologisch vollends abgehängt wird, ist mehr als real.

Large European AI Models

Es scheint so, als wolle die EU die regulierteste KI der Welt. Dabei darf sie jedoch nicht vergessen, die wirtschaftlichen Interessen sorgfältig abzuwägen, um eine mögliche Überregulierung zu vermeiden. Die DSAG-Forderungen an die Politik lassen sich vor diesem Hintergrund zusammenfassen: 

• Eine staatliche KI-Strategie ist notwendig, um institutionelle Rahmenbedingungen für die Entwicklung von Technologie zu schaffen. 
• Der Einsatz von KI sollte für den Mittelstand wirtschaftlich attraktiv sein und eine finanzielle Förderung von KI etabliert werden – wie bspw. die Initiative „Large European AI Models (LEAM:AI)“, um große, datenreiche KI-Modelle zu entwickeln.
• Strenge Datenschutzregeln dürfen den erfolgreichen Einsatz von KI nicht behindern. 
• Es bedarf einer zentralen koordinierenden Stelle für den Einsatz von KI im öffentlichen Sektor, um Wissenstransfer, rechtliche Rahmenbedingungen, technische Unterstützung und Fortbildungen sicherzustellen.
• Eine verbesserte Bildung rund um alle Themen der Digitalisierung ist notwendig, um einen gesellschaftlichen Konsens zum Umgang mit KI zu befördern – denn die Technologie ist bereits real und alle Unternehmen werden lernen müssen, mit ihr umzugehen und zu arbeiten. 

Künstliche Intelligenz (KI) ist ein mächtiges Werkzeug, aber oft wird übersehen, dass sie Daten benötigt, um wirklich nützlich zu sein. Die Vorstellung, dass technische Expert:innen und Berater:innen KI-Systeme problemlos in Unternehmen implementieren können, ist ein Trugschluss. Tatsächlich sind die Fachleute in den Unternehmen entscheidend, um die Vorteile von KI-Systemen zu nutzen, wie z. B., um die Produktivität zu steigern – auch wenn KI hier nicht das alleinige Allheilmittel darstellt, zu dem sie im Rahmen des aktuellen Hypes gemacht wird.

So bleibt eine Herausforderung unberücksichtigt, wenn es darum geht, die AI-Technologien nachhaltig einzusetzen: Künstliche neuronale Netze zu trainieren benötigt enorme Mengen an Rechenleistung, Energie und Ressourcen. Wie viel Energie genau, darüber geben die Entwicklerfirmen keine detaillierte Auskunft.

Was für die EU im übergreifenden Kontext gilt, ist auch auf SAP als Lieferant von Softwareprodukten für Unternehmensprozesse im Speziellen anwendbar:  Wie viele andere Softwarehersteller hat auch SAP erkannt, dass KI ein wichtiges Zukunftsthema ist, und ergänzt dementsprechend das bestehende Portfolio. Mit KI sollen in Unternehmen nicht nur Prozesse automatisiert und beschleunigt, sondern auch die effizientere Nutzung von Daten gefördert werden. Unternehmen mit einem hohen Digitalisierungsgrad könnten davon besonders profitieren, was die Entwicklung von Geschäftsmodellen betrifft. 

Kontraproduktiv sind Ankündigungen wie die im Juli von SAP, dass KI-Innovationen nur für Kunden mit bestimmten Cloud-Verträgen und mit entsprechendem Preisaufschlag verfügbar sein sollen. Für eine erfolgreiche Digitalisierung ist es unabdingbar, dass SAP alle KI-Innovationen auch für alle Kunden zur Verfügung stellt. Darüber hinaus ist es notwendig, dass SAP einheitliche Rahmenbedingungen und ein umfassendes Monitoring bei der Integration großer Sprachmodelle in SAP-Prozesse sicherstellt. Gleichzeitig braucht es transparente Lizenz- und Nutzungsbedingungen – insbesondere im Zusammenhang mit Partnerschaften von SAP mit anderen Unternehmen im KI-Kontext. Es muss Klarheit über die indirekte Nutzung von Daten aus SAP-Systemen für KI-Anwendungen geschaffen und diese in den Lizenzvereinbarungen festgelegt werden. Unternehmen sollten zudem Unterstützung und Best-Practice-Guides für die Integration von KI-Anwendungen erhalten, um den Datenschutz zu gewährleisten und konkrete Use Cases umzusetzen.“

dsag.de