{"id":157218,"date":"2025-10-24T15:37:22","date_gmt":"2025-10-24T13:37:22","guid":{"rendered":"http:\/\/e3mag.com\/?p=157218"},"modified":"2025-10-24T15:55:54","modified_gmt":"2025-10-24T13:55:54","slug":"responsible-ai-im-betrieb-vertrauen-in-intelligente-systeme-aufbauen","status":"publish","type":"post","link":"https:\/\/e3mag.com\/de\/responsible-ai-im-betrieb-vertrauen-in-intelligente-systeme-aufbauen\/","title":{"rendered":"Responsible AI im Betrieb: Vertrauen in intelligente Systeme aufbauen"},"content":{"rendered":"\n

K\u00fcnstliche Intelligenz ist nicht mehr auf Forschungslabore oder futuristische Vorhersagen beschr\u00e4nkt. Sie ist mittlerweile fest in den Unternehmensbetrieb integriert. Im IT-Servicemanagement unterst\u00fctzt KI alle Bereiche: von der vorausschauenden Ticketweiterleitung bis hin zu selbstheilenden Systemen, von Chatbots, die t\u00e4glich Tausende von Anfragen bearbeiten, bis hin zu autonomen Agenten, die Entscheidungen in Echtzeit treffen. Diese Funktionen sorgen f\u00fcr Geschwindigkeit und Skalierbarkeit, werfen jedoch auch eine wichtige Frage auf: Wie k\u00f6nnen wir sicherstellen, dass die Automatisierung den Menschen verantwortungsbewusst dient?<\/p>\n\n\n\n

Dies ist keine abstrakte Frage. In einer Implementierung wurde ein Vorhersagemodell trainiert, um Serviceanfragen auf der Grundlage historischer L\u00f6sungszeiten zu priorisieren. Oberfl\u00e4chlich betrachtet funktionierte es wie vorgesehen. Doch schon bald wurden Anfragen des Barrierefreiheitsteams konsequent zur\u00fcckgestellt. Das Problem lag nicht in der Logik des Modells, sondern in den Daten, die es aufgenommen hatte \u2013 Daten, die durch jahrelange Vernachl\u00e4ssigung gepr\u00e4gt waren. Die Voreingenommenheit der Vergangenheit wurde in die Zukunft automatisiert.<\/p>

\"\"<\/a><\/div><\/div>\n\n\n\n

Ein weiteres viel diskutiertes Beispiel stammt aus einem anderen Bereich als ITSM. Im Jahr 2018 gab ein gro\u00dfes Technologieunternehmen sein KI-Rekrutierungstool auf, nachdem es festgestellt hatte, dass es m\u00e4nnliche Kandidaten f\u00fcr Ingenieurspositionen konsequent bevorzugte. Das Modell war auf der Grundlage von zehn Jahren Einstellungsdaten aus einer von M\u00e4nnern dominierten Branche trainiert worden. Was wie ein effizienter Auswahlprozess erschien, entpuppte sich als strukturelle Voreingenommenheit, die stillschweigend in die Entscheidungsfindung einfloss.<\/p>\n\n\n\n

Diese F\u00e4lle unterstreichen, warum Responsible AI f\u00fcr moderne Betriebsabl\u00e4ufe von zentraler Bedeutung ist. Effizienz allein reicht nicht aus, Systeme m\u00fcssen auch gerecht, erkl\u00e4rbar und vertrauensw\u00fcrdig sein. Responsible AI bietet Leitplanken, die verhindern, dass die Automatisierung bestehende Probleme versch\u00e4rft, und stattdessen daf\u00fcr sorgen, dass sie zu einer faireren und widerstandsf\u00e4higeren digitalen Umgebung beitr\u00e4gt.<\/p>\n\n\n

\n
\"\"<\/figure>\n<\/div>\n\n\n

Saaniya Chugh mit ihrem Buchumschlag.<\/em><\/p>\n\n\n\n

Responsible AI in Betriebsabl\u00e4ufen basiert auf mehreren miteinander verbundenen Prinzipien. Fairness ist der Ausgangspunkt. Da KI aus den ihr zur Verf\u00fcgung gestellten Daten lernt, spiegelt sie unweigerlich versteckte Ungleichheiten wider: verz\u00f6gerte Reaktionen auf bestimmte Teams, Vernachl\u00e4ssigung bestimmter Anwendungen oder kulturelle Unterschiede in der Art und Weise, wie Probleme protokolliert wurden. Bleiben diese Muster unkontrolliert, benachteiligen sie ganze Gruppen. Verantwortungsbewusste Rahmenwerke wirken dem entgegen, indem sie regelm\u00e4\u00dfige \u00dcberpr\u00fcfungen auf Voreingenommenheit, die Verwendung repr\u00e4sentativer Trainingsdaten und kontinuierliche Nachschulungen vorschreiben, damit sich die Modelle im Einklang mit den Werten der Organisation weiterentwickeln, anstatt veraltete Praktiken fortzuf\u00fchren.<\/p>\n\n\n\n

Transparenz ist ebenso wichtig. In Umgebungen mit hohem Risiko k\u00f6nnen Entscheidungen nicht aus einer Black Box hervorgehen. Sowohl F\u00fchrungskr\u00e4fte als auch Endnutzer m\u00fcssen nachvollziehen k\u00f6nnen, warum ein KI-System eine bestimmte Vorgehensweise empfohlen hat. Wenn ein Modell empfiehlt, ein \u00c4nderungsfenster vorzeitig zu schlie\u00dfen, m\u00fcssen die Beteiligten verstehen, ob diese Entscheidung aufgrund des Vorfallvolumens, historischer Muster oder der Erkennung von Anomalien getroffen wurde. Funktionen wie Modell-Einblicke helfen dabei, diese Faktoren aufzudecken und KI von einem mysteri\u00f6sen Orakel zu einem vertrauensw\u00fcrdigen Partner zu machen.<\/p>\n\n\n\n

Auch menschliches Urteilsverm\u00f6gen bleibt unverzichtbar. Bei verantwortungsvoller KI geht es nicht darum, Entscheidungstr\u00e4ger zu ersetzen, sondern sie zu unterst\u00fctzen. Konfidenzschwellen, Eskalationsregeln und \u00dcbersteuerungsmechanismen stellen sicher, dass Menschen eingreifen k\u00f6nnen, wenn Unklarheiten oder Risiken hoch sind. Ein Modell zur Genehmigung von \u00c4nderungen kann zwar empfehlen, fortzufahren, erfordert aber dennoch eine menschliche Unterschrift, wenn die Konfidenz gering ist. Dieses Gleichgewicht erm\u00f6glicht es Unternehmen, ihre Effizienz zu bewahren, ohne die vollst\u00e4ndige Kontrolle an die Automatisierung abzugeben.<\/p>\n\n\n\n

Schlie\u00dflich bilden Sicherheit und Compliance das R\u00fcckgrat einer verantwortungsvollen KI. KI-Systeme verbrauchen und generieren enorme Datenmengen, darunter Protokolle, Ausgaben und Entscheidungsaufzeichnungen. Alle diese Daten stellen eine potenzielle Schwachstelle dar, wenn sie nicht gesichert sind. Verschl\u00fcsselung, Zugriffskontrollen und sichere \u00dcbertragungsprotokolle sind daher unerl\u00e4sslich. Die Compliance f\u00fcgt eine weitere Ebene hinzu: Vorschriften wie das EU-KI-Gesetz, die DSGVO, HIPAA und CCPA behandeln viele Formen der automatisierten Entscheidungsfindung als risikoreich, insbesondere wenn sie die Rechte der Nutzer oder den Zugang zu Diensten beeintr\u00e4chtigen. Die Einbettung der \u00dcberpr\u00fcfbarkeit in die t\u00e4glichen Arbeitsabl\u00e4ufe sch\u00fctzt nicht nur die Daten, sondern st\u00e4rkt auch das Vertrauen der \u00d6ffentlichkeit.<\/p>\n","protected":false},"excerpt":{"rendered":"

Auszug aus \u201eIntelligentes IT-Servicemanagement von ServiceNow: Ein umfassender Leitfaden zur Implementierung der KI-Funktionen der Plattform f\u00fcr IT-Manager\u201c. <\/p>\n","protected":false},"author":5760,"featured_media":157228,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"pmpro_default_level":"","footnotes":""},"categories":[2],"tags":[],"coauthors":[44327],"class_list":["post-157218","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sap-nachrichten","pmpro-has-access"],"acf":[],"featured_image_urls_v2":{"full":["https:\/\/e3mag.com\/wp-content\/uploads\/2025\/10\/Buecher-1000x450-1.jpg",1000,450,false],"thumbnail":["https:\/\/e3mag.com\/wp-content\/uploads\/2025\/10\/Buecher-1000x450-1-150x150.jpg",150,150,true],"medium":["https:\/\/e3mag.com\/wp-content\/uploads\/2025\/10\/Buecher-1000x450-1-400x180.jpg",400,180,true],"medium_large":["https:\/\/e3mag.com\/wp-content\/uploads\/2025\/10\/Buecher-1000x450-1-768x346.jpg",768,346,true],"large":["https:\/\/e3mag.com\/wp-content\/uploads\/2025\/10\/Buecher-1000x450-1.jpg",1000,450,false],"image-100":["https:\/\/e3mag.com\/wp-content\/uploads\/2025\/10\/Buecher-1000x450-1-100x45.jpg",100,45,true],"image-480":["https:\/\/e3mag.com\/wp-content\/uploads\/2025\/10\/Buecher-1000x450-1-480x216.jpg",480,216,true],"image-640":["https:\/\/e3mag.com\/wp-content\/uploads\/2025\/10\/Buecher-1000x450-1-640x288.jpg",640,288,true],"image-720":["https:\/\/e3mag.com\/wp-content\/uploads\/2025\/10\/Buecher-1000x450-1-720x324.jpg",720,324,true],"image-960":["https:\/\/e3mag.com\/wp-content\/uploads\/2025\/10\/Buecher-1000x450-1-960x432.jpg",960,432,true],"image-1168":["https:\/\/e3mag.com\/wp-content\/uploads\/2025\/10\/Buecher-1000x450-1.jpg",1000,450,false],"image-1440":["https:\/\/e3mag.com\/wp-content\/uploads\/2025\/10\/Buecher-1000x450-1.jpg",1000,450,false],"image-1920":["https:\/\/e3mag.com\/wp-content\/uploads\/2025\/10\/Buecher-1000x450-1.jpg",1000,450,false],"1536x1536":["https:\/\/e3mag.com\/wp-content\/uploads\/2025\/10\/Buecher-1000x450-1.jpg",1000,450,false],"2048x2048":["https:\/\/e3mag.com\/wp-content\/uploads\/2025\/10\/Buecher-1000x450-1.jpg",1000,450,false],"trp-custom-language-flag":["https:\/\/e3mag.com\/wp-content\/uploads\/2025\/10\/Buecher-1000x450-1-18x8.jpg",18,8,true],"bricks_large_16x9":["https:\/\/e3mag.com\/wp-content\/uploads\/2025\/10\/Buecher-1000x450-1.jpg",1000,450,false],"bricks_large":["https:\/\/e3mag.com\/wp-content\/uploads\/2025\/10\/Buecher-1000x450-1.jpg",1000,450,false],"bricks_large_square":["https:\/\/e3mag.com\/wp-content\/uploads\/2025\/10\/Buecher-1000x450-1.jpg",1000,450,false],"bricks_medium":["https:\/\/e3mag.com\/wp-content\/uploads\/2025\/10\/Buecher-1000x450-1-600x270.jpg",600,270,true],"bricks_medium_square":["https:\/\/e3mag.com\/wp-content\/uploads\/2025\/10\/Buecher-1000x450-1-600x450.jpg",600,450,true],"profile_24":["https:\/\/e3mag.com\/wp-content\/uploads\/2025\/10\/Buecher-1000x450-1-24x24.jpg",24,24,true],"profile_48":["https:\/\/e3mag.com\/wp-content\/uploads\/2025\/10\/Buecher-1000x450-1-48x48.jpg",48,48,true],"profile_96":["https:\/\/e3mag.com\/wp-content\/uploads\/2025\/10\/Buecher-1000x450-1-96x96.jpg",96,96,true],"profile_150":["https:\/\/e3mag.com\/wp-content\/uploads\/2025\/10\/Buecher-1000x450-1-150x150.jpg",150,150,true],"profile_300":["https:\/\/e3mag.com\/wp-content\/uploads\/2025\/10\/Buecher-1000x450-1-300x300.jpg",300,300,true]},"post_excerpt_stackable_v2":"

Auszug aus \u201eIntelligentes IT-Servicemanagement von ServiceNow: Ein umfassender Leitfaden zur Implementierung der KI-Funktionen der Plattform f\u00fcr IT-Manager\u201c. <\/p>\n","category_list_v2":"Community Nachrichten<\/a>","author_info_v2":{"name":"Saaniya Chugh, ServiceNow","url":"https:\/\/e3mag.com\/de\/author\/saaniya-chugh\/"},"comments_num_v2":"0 comments","_links":{"self":[{"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/posts\/157218","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/users\/5760"}],"replies":[{"embeddable":true,"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/comments?post=157218"}],"version-history":[{"count":8,"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/posts\/157218\/revisions"}],"predecessor-version":[{"id":157234,"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/posts\/157218\/revisions\/157234"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/media\/157228"}],"wp:attachment":[{"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/media?parent=157218"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/categories?post=157218"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/tags?post=157218"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/coauthors?post=157218"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}