{"id":134303,"date":"2023-11-09T08:00:00","date_gmt":"2023-11-09T07:00:00","guid":{"rendered":"http:\/\/e3mag.com\/?p=134303"},"modified":"2023-11-15T09:03:29","modified_gmt":"2023-11-15T08:03:29","slug":"ki-transparenz-sind-fuer-ml-und-das-blackbox-phaenomen-kein-problem","status":"publish","type":"post","link":"https:\/\/e3mag.com\/de\/ki-transparenz-sind-fuer-ml-und-das-blackbox-phaenomen-kein-problem\/","title":{"rendered":"KI-Transparenz sind f\u00fcr ML und das Blackbox-Ph\u00e4nomen kein Problem"},"content":{"rendered":"\n

In diesem Beitrag argumentiere ich anhand von f\u00fcnf konkreten Beispielen, warum diese Aussage nur selten uneingeschr\u00e4nkt stimmt. Es gibt F\u00e4lle, in denen es sogar unumg\u00e4nglich oder manchmal gar nicht so schlecht ist, dass mit maschinellem Lernen (ML) erstellte Prognosemodelle eine Blackbox sind.<\/p>\n\n\n\n

Wir sprechen von einer Blackbox, wenn wir die Logik eines Modells nicht verstehen. Am Beispiel eines Prognosemodells (Predictive Analytics) bedeutet dies, dass die Ausgabe des maschinellen Lernens sich nicht ohne Weiteres auf Basis bestimmter Eingangsdaten nachvollziehen l\u00e4sst. Im Gegensatz zu klassischen statistischen Analysen lassen sich n\u00e4mlich die mathematischen Regeln eines komplexen algorithmischen Modells nicht mit einer Handvoll von (linearen) Parametern beschreiben.<\/p>

\"\"<\/a><\/div><\/div>\n\n\n\n

Tats\u00e4chlich sind meines Erachtens nur in High-Risk-Anwendungen von k\u00fcnstlicher Intelligenz (KI) Transparenz und Erkl\u00e4rbarkeit unumg\u00e4nglich. Hier steht man dem Blackbox- Problem allerdings nicht hilflos gegen\u00fcber. Die Forschung hat zahlreiche Methoden rund um Explainable Artificial Intelligence (XAI) entwickelt. So baut SAP beispielsweise diese neuen Optionen kontinuierlich in ihre Technologien ein, um die Logik der erstellten Modelle leichter nachvollziehbar zu machen.<\/p>\n\n\n\n

Argument 1:<\/strong> Fehlende Transparenz hat auch Vorteile. Es gibt Anwendungsf\u00e4lle f\u00fcr maschinelles Lernen, bei denen die fehlende Nachvollziehbarkeit regelrecht zu einer St\u00e4rke wird. Stellen Sie sich vor, dass ein interner oder externer Akteur ein (teil-)automatisiertes Entscheidungssystem basierend auf ML bewusst manipulieren m\u00f6chte. Da ihm allerdings die Kenntnis davon fehlt, welche Eingangsdaten zu welchem Output im Modell f\u00fchren, wird dieses Vorhaben deutlich schwieriger. Wissenschaftler nennen diesen Aspekt \u201eGameability\u201c (Langer und K\u00f6nig 2021).<\/p>\n\n\n\n

Zudem identifizierten die Wissenschaftler je nach Anwendungsfall weitere Vorteile, als sie algorithmisch unterst\u00fctzte Entscheidungsprozesse evaluierten. Das Ergebnis: Bei intransparenten Modellen f\u00fchren sie zu einer erh\u00f6hten Effizienz! Der Grund ist so plausibel wie einfach. Maschinen lassen sich nicht von teilweise unn\u00f6tigen Details und einer Informationsflut ablenken. Dar\u00fcber hinaus tr\u00e4gt Intransparenz zum Datenschutz bei, sollten personenbezogene Daten im Trainingsprozess eingehen.<\/p>\n\n\n\n

Argument 2:<\/strong> der Trade-off zwischen Performance und Transparenz. Bei jeder Forderung nach Transparenz ist zu bedenken, dass die Transparenz auf Kosten der Genauigkeit der Modelle geht. Maschinelles Lernen ist darauf ausgelegt, auch detaillierte und nicht lineare Muster in Daten zu entdecken und diese in den Modellen zur Verf\u00fcgung zu stellen (Kellogg et al. 2020, pp. 370\u2013371). Um die Transparenz zu erh\u00f6hen, k\u00f6nnte man diese Komplexit\u00e4t sukzessive zur\u00fcckbauen oder weniger komplexe Algorithmen verwenden. Beide Ma\u00dfnahmen verringern im Nachgang allerdings die Genauigkeit der Prognoseergebnisse. Die St\u00e4rke von maschinellem Lernen wird also ausgehebelt. Ein wichtiger Aspekt, der direkt zum dritten Argument f\u00fchrt.<\/p>\n\n\n\n

Argument 3:<\/strong> Intransparenz ist ein wesentliches Kennzeichen von maschinellem Lernen. W\u00e4hrend die traditionelle Statistik darauf ausgelegt ist, die Daten zu verstehen, versucht das maschinelle Lernen vorhandene Daten nutzbar zu machen, also zum Beispiel m\u00f6glichst genaue Prognosen auf Basis von historischen Daten zu erstellen. Wenn die Mustererkennung in Daten das Hauptziel des Projektes ist (Data Mining), dann k\u00f6nnte maschinelles Lernen schlicht das falsche Tool sein (Rudin 2019). In einem Projekt lassen sich Statistik oder auch deskriptive Datenanalyse im Stile eines Dashboards (Slice and Dice, Drill-Down) mit maschinellem Lernen kombinieren. Dann erf\u00fcllt jedes Werkzeug seinen Hauptzweck und Synergien entstehen. Jeder Handwerker nutzt einen ganzen Werkzeugkoffer. Um die Metapher abzurunden: Maschinelles Lernen ist ein sehr gutes Universalwerkzeug vergleichbar mit einem Akkuschrauber. Deswegen lassen sich damit noch lange keine Bretter zers\u00e4gen.<\/p>\n\n\n\n

Argument 4:<\/strong> Hey, as long as it works?! Lassen Sie mich mit einem kurzen Gedankenexperiment beginnen. W\u00fcrden Sie lieber in einem Flugzeug fliegen, das Sie selbst ausf\u00fchrlich technisch begutachtet und bis auf jede Schraube seziert haben, oder in einem, das s\u00e4mtliche vorgeschriebene Teststandards und Probefl\u00fcge mit Bravour absolviert hat? Sicher fehlt fast jedem Menschen das ingenieurtechnische Wissen oder zumindest die Geduld f\u00fcr den ersten Weg. Deswegen greifen wir zu der zweiten Option. Diese Analogie stammt von Cassie Kozyrkov, die bekannterma\u00dfen als Chief Decision Scientist bei Google t\u00e4tig ist.<\/p>\n\n\n\n

Cassie Kozyrkov verweist weiterhin darauf, dass im maschinellen Lernen ebenfalls ein Probelauf durchgef\u00fchrt wird. Bei diesem sogenannten Out-of-Sample-Test handelt es sich im Prinzip um eine Klausur: Die Datens\u00e4tze (Aufgaben) sind andere als diejenigen, die zum Trainieren (Hausaufgaben) bereitgestellt wurden. In der Praxis lohnt es sich oft, diese Out-of-Sample-Tests ausf\u00fchrlich und gr\u00fcndlich durchzuf\u00fchren, anstatt einer gew\u00fcnschten Transparenz hinterherzurennen. Dieses Argument hat sicherlich gro\u00dfes Gewicht, erfordert aber ein Umdenken in der Art und Weise, wie betriebliche Entscheidungsprozesse begr\u00fcndet sind. Deswegen dauert es, bis es in den K\u00f6pfen von Anwendern ankommt. Data Scientists sind hier gefordert, mit leicht verst\u00e4ndlichen Worten die Implikationen aus ihren Teststrategien und -ergebnissen zu erl\u00e4utern.<\/p>\n\n\n\n

Argument 5:<\/strong> Forschung und Technologie stehen nicht still \u2013 Explainable AI. Zuletzt m\u00f6chte ich auf den wichtigen Umstand hinweisen, dass auf Transparenz im maschinellen Lernen tats\u00e4chlich nicht immer verzichtet werden kann. Absolut notwendig ist Transparenz in High-Risk-Anwendungen, die einen direkten Einfluss auf die unmittelbare Lebenswelt von Menschen haben. Dazu geh\u00f6ren Entscheidungsunterst\u00fctzungen durch maschinelles Lernen in sensiblen Bereichen, die T\u00fcren verschlie\u00dfen k\u00f6nnen. Das gilt unter anderem f\u00fcr die Kreditvergabe, das Recruiting oder das Personalwesen. In solchen Bereichen haben die Sicherung von Fairness und Gleichbehandlung absolute Priorit\u00e4t und k\u00f6nnen nicht ohne eine Transparenz und Erkl\u00e4rbarkeit der Modelle geschaffen werden. Zum Gl\u00fcck steht hierbei der technologische Fortschritt nicht still. SAP baut zum Beispiel Explainable AI kontinuierlich seit einigen Jahren in ihre Predictive-Analytics-Produkte ein. In Techniken wie SAP Analytics Cloud oder Hana Predictive Analytics Library lassen sich weiterhin komplexe Modelle des maschinellen Lernens bis zu einem bestimmten Grad transparenter machen. Die Methoden extrahieren Informationen wie die Wirkung von einzelnen Einflussfaktoren auf die Outputs von Modellen oder approximieren die Modelle mit nachvollziehbaren Regelsystemen, die auf grundlegenden Fragen beruhen: Was ist, wenn? Und vor allem, was w\u00e4re, wenn sich Einflussfaktor X \u00e4ndert?<\/p>\n\n\n\n

Fazit: Explainable AI<\/h2>\n\n\n\n


Maschinelles Lernen zu verwenden, nur weil es gerade im KI-Hype um ChatGPT gut in die Zeit passt, ist nicht immer sinnvoll. Wenn Wissensextraktion ein Ziel ist, sollte vielleicht fr\u00fch im Projekt auf ein anderes Tool gesetzt werden. Ist ein geeigneter Anwendungsfall von maschinellem Lernen allerdings gefunden, so ist ausf\u00fchrliches Testen der entscheidende Faktor zum Validieren. Transparenz kann zudem f\u00fcr komplexe Modelle bei Bedarf geschaffen werden, dann ist allerdings in zus\u00e4tzliches Know-how und die Anwendung von Explainable-AI-Methoden zu investieren. Meine abschlie\u00dfende Meinung mit Blick auf die \u00dcberschrift dieses Artikels: Das Blackbox-Ph\u00e4nomen f\u00fcr maschinelles Lernen sollte nur in kritischen Ausnahmef\u00e4llen einen Show-Stopper f\u00fcr innovative ML-Projekte darstellen.<\/p>\n\n\n\n

\"\"<\/a><\/figure>\n","protected":false},"excerpt":{"rendered":"

Maschinelles Lernen liefert mir lediglich eine Blackbox, damit k\u00f6nnen wir nichts anfangen.
\nDer Satz, der mir h\u00e4ufig in der Praxis begegnet, stammt meist von in Datenanalytik weniger ausgebildeten, zuk\u00fcnftigen Nutzern eines KI-Projektes. Doch stimmt diese Aussage?<\/p>\n","protected":false},"author":2368,"featured_media":134306,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"pmpro_default_level":"","footnotes":""},"categories":[2,43645],"tags":[625,43669],"coauthors":[40405],"class_list":["post-134303","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sap-nachrichten","category-mag-23-11","tag-ai","tag-blackbox","pmpro-has-access"],"acf":[],"featured_image_urls_v2":{"full":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553.jpg",1000,400,false],"thumbnail":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-150x150.jpg",150,150,true],"medium":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-400x160.jpg",400,160,true],"medium_large":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-768x307.jpg",768,307,true],"large":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553.jpg",1000,400,false],"image-100":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-100x40.jpg",100,40,true],"image-480":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-480x192.jpg",480,192,true],"image-640":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-640x256.jpg",640,256,true],"image-720":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-720x288.jpg",720,288,true],"image-960":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-960x384.jpg",960,384,true],"image-1168":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553.jpg",1000,400,false],"image-1440":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553.jpg",1000,400,false],"image-1920":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553.jpg",1000,400,false],"1536x1536":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553.jpg",1000,400,false],"2048x2048":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553.jpg",1000,400,false],"trp-custom-language-flag":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-18x7.jpg",18,7,true],"bricks_large_16x9":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553.jpg",1000,400,false],"bricks_large":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553.jpg",1000,400,false],"bricks_large_square":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553.jpg",1000,400,false],"bricks_medium":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-600x240.jpg",600,240,true],"bricks_medium_square":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-600x400.jpg",600,400,true],"profile_24":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-24x24.jpg",24,24,true],"profile_48":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-48x48.jpg",48,48,true],"profile_96":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-96x96.jpg",96,96,true],"profile_150":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-150x150.jpg",150,150,true],"profile_300":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-300x300.jpg",300,300,true]},"post_excerpt_stackable_v2":"

Maschinelles Lernen liefert mir lediglich eine Blackbox, damit k\u00f6nnen wir nichts anfangen.
\nDer Satz, der mir h\u00e4ufig in der Praxis begegnet, stammt meist von in Datenanalytik weniger ausgebildeten, zuk\u00fcnftigen Nutzern eines KI-Projektes. Doch stimmt diese Aussage?<\/p>\n","category_list_v2":"Community Nachrichten<\/a>, MAG 23-11<\/a>","author_info_v2":{"name":"E3-Magazin","url":"https:\/\/e3mag.com\/de\/author\/e3_magazin\/"},"comments_num_v2":"1 comment","_links":{"self":[{"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/posts\/134303","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/users\/2368"}],"replies":[{"embeddable":true,"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/comments?post=134303"}],"version-history":[{"count":2,"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/posts\/134303\/revisions"}],"predecessor-version":[{"id":134307,"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/posts\/134303\/revisions\/134307"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/media\/134306"}],"wp:attachment":[{"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/media?parent=134303"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/categories?post=134303"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/tags?post=134303"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/e3mag.com\/de\/wp-json\/wp\/v2\/coauthors?post=134303"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}