Information und Bildungsarbeit von und für die SAP-Community

Bei Künstliche-Intelligenz-Risiken besser nicht nur die EU fragen

In ihrem „Weißbuch Künstliche Intelligenz“ skizziert die Europäische Union, wie sie einen riskanten Einsatz der Technologie verhindern will. Das wirft Grundsatzfragen auf.
E-3 Magazin
29. Mai 2020
[shutterstock.com: 156640304, esfera]
avatar

Künstliche Intelligenz (KI) revolutioniert Wirtschaft und Gesellschaft. Vorreiter sind die USA, während China rasant aufholt – und dazu bis 2030 gut 150 Milliarden US-Dollar investiert. Europa muss also aufpassen, nicht den Anschluss zu verlieren.

In dem Sinn ist die Ankündigung zu verstehen, dass die EU nun 20 Milliarden Euro pro Jahr in die Zukunftstechnologie stecken will. So steht es in ihrem „Weißbuch Künstliche Intelligenz“, das die EU-Kommission kürzlich veröffentlicht hat. Die Summe sollen die EU, Mitgliedsstaaten und Unternehmen gemeinsam aufbringen – wie, das ist offen.

Das KI-Weißbuch behandelt neben der Finanzierungs- noch einige weitere Grundsatzfragen, etwa zum Risiko eines KI-Einsatzes. Die EU äußert sich zu diesem Aspekt nur vage – und fordert damit geradezu zum Weiterdenken über die Risikominimierung auf, was die Voraussetzungen für eine sinnvolle KI-Anwendung sowie Ansatzpunkte für Unternehmen einschließen sollte.

In dem Weißbuch steht: Für das nötige Vertrauen sollen KI-Rechtsvorschriften sorgen, die den Risiken entsprechen, aber Innovationen nicht verhindern. Ein hohes Risiko sieht die EU in den Sektoren Gesundheitswesen, Verkehr, Polizei und Rechtssystem.

Als kritisch wird eine KI-Lösung eingestuft, wenn bei dieser mit rechtlichen Auswirkungen, Lebensgefahr, Schäden oder Verletzungen zu rechnen ist. So führt das EU-Papier die Medizintechnik, automatisiertes Fahren und Entscheidungen über Sozialversicherungsleistungen als Beispiele für einen risikobehafteten Einsatz von KI an.

Die EU fordert nun strenge Vorschriften, die Konformitätsprüfung, Kontrollen sowie Sanktionen regeln, damit „KI-Systeme mit hohem Risiko transparent sind, Rückverfolgbarkeit gegeben ist und unter der Kontrolle des Menschen stehen“. Die Kommission argumentiert:

„Behörden müssen KI-Systeme ebenso überprüfen können wie Kosmetika, Autos und Spielzeug.“ Andere KI-Anwendungen könnten freiwillig gekennzeichnet werden. Weitergedacht bedeuten die Vorschriften beispielsweise für das Gesundheitswesen: Es dürfen nur Expertensysteme zum Einsatz kommen.

Diese fällen Entscheidungen nach definierten Regeln. Dabei arbeiten sie transparent, erkennen jedoch keine Muster in Röntgenbildern und lernen nicht dazu. Anders sieht das bei KI-Anwendungen für maschinelles Lernen aus, die neuronale Netze verwenden.

Ein Neuron wird hierbei als Funktion modelliert, einschließlich Input, Parameter und Output. Als Dateninput dienen Fotos, Texte, Zahlen, Videos oder Audiodateien. Diese trainieren das Modell, selbstständig Muster zu erkennen, bessere Ergebnisse zu liefern und letztendlich unbekannte Daten zu bewerten.

In einer nachvollziehbaren Zertifizierung liegt der Schlüssel, um das nötige Vertrauen in KI-Systeme zu schaffen. Dabei sollte es nicht allein Aufgabe der Politik sein, die Kriterien für eine Zertifizierung zu definieren.

Auch Wirtschaft und Forschung sind gefragt. Die Vorlage dazu hat die EU mit ihrem KI-Weißbuch geliefert. Alle Beteiligten sollten auch daran denken, was passiert, wenn sich der Verwendungszweck ändert.

Unternehmen stehen in der Pflicht, eine passende Dateninfrastruktur und Expertenwissen für einen sinnvollen KI-Einsatz aufzubauen. Wer das nicht tut, büßt entscheidend an Innovationsfähigkeit ein. Das ist das KI-Risiko, welches Unternehmen selbst verantworten – und gestalten können.

avatar
E-3 Magazin

Information und Bildungsarbeit von und für die SAP-Community.


Schreibe einen Kommentar

Die Arbeit an der SAP-Basis ist entscheidend für die erfolgreiche S/4-Conversion. 

Damit bekommt das sogenannte Competence Center bei den SAP-Bestandskunden strategische Bedeutung. Unhabhängig vom Betriebsmodell eines S/4 Hana sind Themen wie Automatisierung, Monitoring, Security, Application Lifecycle Management und Datenmanagement die Basis für den operativen S/4-Betrieb.

Zum zweiten Mal bereits veranstaltet das E3-Magazin in Salzburg einen Summit für die SAP-Community, um sich über alle Aspekte der S/4-Hana-Basisarbeit umfassend zu informieren.

Veranstaltungsort

Mehr Informationen folgen in Kürze.

Veranstaltungsdatum

Mittwoch, 21. Mai, und
Donnerstag, 22. Mai 2025

Early-Bird-Ticket

Verfügbar bis Freitag, 24. Januar 2025
EUR 390 exkl. USt.

Reguläres Ticket

EUR 590 exkl. USt.

Veranstaltungsort

Hotel Hilton Heidelberg
Kurfürstenanlage 1
D-69115 Heidelberg

Veranstaltungsdatum

Mittwoch, 5. März, und
Donnerstag, 6. März 2025

Tickets

Reguläres Ticket
EUR 590 exkl. USt
Early-Bird-Ticket

Verfügbar bis 20. Dezember 2024

EUR 390 exkl. USt
Veranstalter ist das E3-Magazin des Verlags B4Bmedia.net AG. Die Vorträge werden von einer Ausstellung ausgewählter SAP-Partner begleitet. Der Ticketpreis beinhaltet den Besuch aller Vorträge des Steampunk und BTP Summit 2025, den Besuch des Ausstellungsbereichs, die Teilnahme an der Abendveranstaltung sowie die Verpflegung während des offiziellen Programms. Das Vortragsprogramm und die Liste der Aussteller und Sponsoren (SAP-Partner) wird zeitnah auf dieser Website veröffentlicht.