Regelkonforme künstliche Intelligenz

Die KPMG Wirtschaftsprüfungsgesellschaft erweitert ihr Trusted-AI-Angebot um neue Prüfungs- und Beratungsleistungen für künstliche Intelligenz (KI). Ziel ist es, Unternehmen dabei zu unterstützen, KI-Systeme verlässlich, gesetzeskonform und verantwortungsvoll einzusetzen.

Die Schwerpunkte des Angebots

AI Assurance: KPMG überprüft, ob KI-Systeme nachvollziehbare und faire Entscheidungen treffen, Verantwortlichkeiten klar geregelt sind und geeignete Kontrollmechanismen greifen, um Verzerrungen zu minimieren und ethische Standards einzuhalten.

Die Prüfungen umfassen Modellvalidierungen, Bias-Analysen und die Nachvollziehbarkeit von Entscheidungspfaden mithilfe eta­blierter Explainability-Tools. Dabei orientiert sich KPMG neben dem eigenen Trusted AI Framework auch an international anerkannten Standards wie dem ISO/IEC 42001 sowie nationalen Standards wie dem IDW PS 861 zur Prüfung von künstlicher Intelligenz.

AI Governance: Neben der technischen Prüfung unterstützt KPMG Unternehmen bei der strategischen und organisatorischen Ausrichtung – von der Entwicklung über die Implementierung bis zur laufenden Überwachung von KI-Systemen. Der Fokus liegt auf einem verantwortungsvollen Design und einer wirksamen abteilungsübergreifend integrierten Governance-Struktur. KPMG hilft Organisationen, KI als kontrolliertes Unternehmensvermögen („AI-Asset“) zu steuern – mit klaren Zuständigkeiten, Freigabeprozessen und einer belastbaren Kon­trollarchitektur entlang des gesamten KI-Lebenszyklus.

Zentrales Element ist das KPMG Trusted AI Framework, das ­regulatorische, ethische und operative Anforderungen verbindet und Transparenz schafft über Rollen, Verantwortlichkeiten und Kontrollmechanismen – etwa durch definierte Freigabeprozesse, Bias-­Reviews und „Model Fact Sheets“, die Trainingsdaten und Entscheidungslogiken dokumentieren. Zur operativen Umsetzung werden Governance- und Kon­trollprozesse in gängigen Plattformen oder in KPMG-eigenen Lösungen wie dem KPMG AI Cockpit abgebildet.

Das Cockpit vereinfacht Prüf- und Freigabeprozesse, macht Verantwortlichkeiten transparent und führt ein zentrales Inventar aller KI-Systeme. So gewinnen Unternehmen Effizienz durch automatisierte Workflows und Echtzeit-Reporting. KI-Governance wird damit zu einem festen Bestandteil des Corporate- und Risk-­Managements – und schafft die Grund­lage, Innovation verantwortungsvoll zu gestalten.

ㅤ

ㅤ

„KI darf keine Blackbox bleiben. Nur wenn wir nachvollziehen können, wie Entscheidungen zustande kommen, schaffen wir Vertrauen – die Währung der digitalen Wirtschaft.“

Dirk Distelrath,
Partner, Audit, Regulatory Advisory,
Digital Process Compliance,
KPMG

Gap- und Readiness-Assessments: Bestehende KI-Systeme werden auf potenzielle Schwachstellen untersucht, von Sicherheitslücken bis zu möglichen Bias-Risiken. Dabei kommen etablierte Rahmenwerke zum Einsatz, ergänzt um Fairness-Checks und Robustheitstests, um eine breite Praxistauglichkeit sicherzustellen. KPMG kombiniert technische Prüfverfahren mit Governance-Assessments, um den Reifegrad von KI-Systemen ganzheitlich zu bewerten.

Im Fokus stehen Datenqualität, Modellrobustheit, Nachvollziehbarkeit von Entscheidungen und die Einhaltung der Anforderungen des EU AI Act. Das Assessment deckt sowohl technische als auch organisatorische Lücken auf – etwa unzureichende Dokumentation, fehlende menschliche Aufsicht oder Defizite im Risiko- und Incident-Management. Die Ergebnisse werden beispielsweise im KPMG AI Cockpit visualisiert und ermög­lichen eine priorisierte Maßnahmenplanung mit klaren Verantwortlichkeiten und Terminzielen.

Unternehmen stehen zunehmend im Spannungsfeld zwischen Innovation und Verantwortung. Mit den neuen Prüfungs- und Beratungsleistungen schafft KPMG die Grundlage, um beim Einsatz von KI Vertrauen aufzubauen, gesetzliche Vorgaben einzuhalten und gleichzeitig Chancen für Wachstum zu nutzen.

Das neue Angebot gewinnt vor allem vor dem Hintergrund des wachsenden Handlungsdrucks an Bedeutung: Regulatorische Vorgaben wie der EU AI Act erhöhen die Anforderungen, gleichzeitig äußern laut einer globalen Umfrage von KPMG International mehr als die Hälfte der Befragten Zweifel an der Vertrauenswürdigkeit von KI – vor allem wegen mangelnder Transparenz, Datenschutz­risiken und möglichen Verzerrungen der Ergebnisse. In Deutschland liegt der Wert noch niedriger: Gerade mal 32 Prozent der Befragten sind bereit, KI-generierten Informationen zu vertrauen.

KI darf keine Blackbox bleiben

Nur wer nachvollziehen kann, wie Entscheidungen zustande kommen, schafft selbst Vertrauen – und das ist die Währung der digitalen Wirtschaft. Auch KPMG treibt seine KI-Transformation konsequent voran: Die Technologie wird in die globale Audit-Plattform KPMG ­Clara AI integriert und unterstützt die Automa­tisierung von Prüfprozessen, die vertiefte Datenanalyse und eine noch ­höhere Qualitätssicherung durch KI-gestützte Agenten – und so die skalierbare Zusammenarbeit im gesamten KPMG-­Netzwerk.

Quelle: KPMG