Vertrauen und Problembewusstsein fehlen

Ein Grund: Nur 53 Prozent der Organisationen verfügen über eine Führungskraft, die für ethische und vertrauenswürdige KI-Systeme verantwortlich ist. Zugleich sind im Vergleich zum Vorjahr mit 62 statt 76 Prozent weniger Verbraucher der Ansicht, dass Unternehmen vollständig transparent offenlegen, wie persönliche Daten verwendet werden.

Zu diesen und weiteren Erkenntnissen kommt die Studie „AI and the Ethical Conundrum: How organizations can build ethically robust AI systems and gain trust“ von Capgemini. Sie hebt auch hervor, dass der Fokus auf ethische Aspekte entscheidend ist, um das transformative Potenzial von KI für Umwelt, Wirtschaft und Gesellschaft auszuschöpfen.

Organisationen sehen zunehmend den Handlungsbedarf hinsichtlich ethischer KI-Systeme: 45 Prozent haben 2020 eine KI-Charta definiert (2019: 5 Prozent) und zwei Drittel (65 Prozent) der Führungskräfte sind sich bewusst, dass KI-Systeme potenziell zu diskriminierenden Entscheidungen führen können. Viele öffentliche und private Institutionen haben zusätzliche KI-Technologien eingeführt, um den Folgen der Coronapandemie zu begegnen.

Entsprechend wird das Vertrauen der Verbraucher in KI-Interaktionen künftig umso wichtiger. Insgesamt 22 Prozent der Unternehmen wurden in den vergangenen drei Jahren von Kunden damit konfrontiert, dass sie KI-basierte Entscheidungen anzweifeln beziehungsweise die Entscheidungsfindung nachvollziehen wollen.

Hierin liegt ein Erfolgsrisiko, da 45 Prozent der Kunden negative Erfahrungen mit ihrem Umfeld teilen und dazu anhalten, mit den entsprechenden Unternehmen nicht zu interagieren.