Wer kontrolliert eigentlich KI-Agenten?

KI-Agenten sind zweifellos auf dem Vormarsch. Ihr Potenzial, Unternehmen zu transformieren, ist enorm. Davon sind Experten weltweit überzeugt. In einer repräsentativen Studie befragte Boomi 300 Führungskräfte aus Wirtschaft und Technologie, darunter auch welche aus Deutschland. Fast drei Viertel (73 Prozent) glauben, dass KI-Agenten die größte Veränderung für ihr Unternehmen in den letzten fünf Jahren darstellen werden.

Doch die Studie zeigt auch: Nur zwei Prozent der derzeit eingesetzten KI-Agenten sind vollständig für ihre Handlungen verantwortlich und unterliegen einer kontinuierlichen, konsistenten Gover­nance. Was im Umkehrschluss bedeutet, dass

98 Prozent keine oder zumindest keine ausreichenden Governance-Regeln besitzen. Und genau hier liegt die Gefahr für Unternehmen, denn ohne Kontrolle kann die Leistungsfähigkeit von KI-Agenten nicht richtig kanalisiert werden.

Verantwortung für KI-Agenten

War noch bis vor Kurzem die Meinung vorherrschend, dass kritische Unternehmensbereiche wie das Managen von Sicherheitsrisiken oder die Genehmigung von Investitionen und Budgets allein menschliche Expertise benötigten, so hat sich das mit der raschen Weiterentwicklung von KI-Agenten gewandelt. Führungskräfte sind nun in immer größerem Maße bereit, auch diese Bereiche einem KI-Agenten zumindest teilweise anzuvertrauen.

Welch enorme Verantwortung damit bei dieser Technologie liegt, ist ersichtlich. Führungskräfte und IT-Teams sind nicht mehr über alle Arten der Nutzung sensibler Daten durch die Technologie informiert und dies kann zu potenziellen Verstößen gegen Sicherheits- oder Compliance-­Vorschriften führen. Für jedes Unternehmen ist die unkontrollierte Autonomie von KI-Agenten ein inakzeptables Risiko.

Doch die aktuellen Standards für die Governance von KI-Agenten sind unzureichend. Oft werden bereits die Mindestanforderungen an eine Governance-Strategie für KI-Agenten nicht erfüllt. So verfügt weniger als ein Drittel über ein Gover­nance-Framework für KI-Agenten und nur 29 Prozent bieten regelmäßige Schulungen für Mitarbeiter und Führungskräfte zum verantwortungsvollen Umgang mit KI-Agenten an.

Wenn es um spezifische Prozesse wie Protokolle zur Bewertung von Bias oder die Planung von Maßnahmen bei Ausfällen von KI-Agenten geht, sind noch weniger Unternehmen vorbereitet (jeweils nur rund ein Viertel). Unternehmen müssen daher damit beginnen, digitale Mitarbeiter (KI-Agenten) genauso wie menschliche Mitarbeiter zu behandeln. Bei diesen ist es gang und gäbe, ihre Fähigkeiten und ihre Vergangenheit auf ethische Verstöße hin zu überprüfen. KI-Agenten müssen nach denselben Standards behandelt werden und beispielsweise dahingehend überprüft werden, ob sie eine Vorgeschichte mit Voreingenommenheit oder Halluzinationen haben.

Universelle Governance ist Pflicht

Die universelle Governance von KI-Agenten ist nicht nur ein nettes Extra. Sie ist für die Datensicherheit und die Verbesserung der Unternehmensleistung unerlässlich. Unternehmen mit einer fortschrittlichen Governance schneiden in einer Vielzahl wichtiger Geschäftskennzahlen besser ab als Unternehmen, die nur über ein grundlegendes Niveau verfügen. Zudem sichern sie sich vor Compliance-Verstößen, Reputationsschäden und letztlich auch vor einem durch nicht geprüfte KI-Agenten ausgelösten Sicherheitsvorfall mit erheb­lichem finanziellen Schaden ab. Denn im aktuellen Wettbewerbsumfeld kann selbst ein kleiner Vorsprung den Unterschied zwischen Führungsposition und Rückstand ausmachen.

Quelle: Boomi