{"id":134303,"date":"2023-11-09T08:00:00","date_gmt":"2023-11-09T07:00:00","guid":{"rendered":"http:\/\/e3mag.com\/?p=134303"},"modified":"2023-11-15T09:03:29","modified_gmt":"2023-11-15T08:03:29","slug":"la-transparence-de-ki-nest-pas-un-probleme-pour-ml-et-le-phenomene-de-la-boite-noire","status":"publish","type":"post","link":"https:\/\/e3mag.com\/fr\/la-transparence-de-ki-nest-pas-un-probleme-pour-ml-et-le-phenomene-de-la-boite-noire\/","title":{"rendered":"La transparence de l'IA n'est pas un probl\u00e8me pour le ML et le ph\u00e9nom\u00e8ne de la bo\u00eete noire"},"content":{"rendered":"

Dans cet article, j'argumente \u00e0 l'aide de cinq exemples concrets pourquoi cette affirmation n'est que rarement valable sans r\u00e9serve. Il y a des cas o\u00f9 il est m\u00eame in\u00e9vitable, ou parfois pas si mal, que les mod\u00e8les de pr\u00e9vision cr\u00e9\u00e9s \u00e0 l'aide de l'apprentissage automatique (ML) soient une bo\u00eete noire.<\/p>\n\n\n\n

Nous parlons de bo\u00eete noire lorsque nous ne comprenons pas la logique d'un mod\u00e8le. Si l'on prend l'exemple d'un mod\u00e8le de pr\u00e9vision (analyse pr\u00e9dictive), cela signifie que la sortie de l'apprentissage automatique ne peut pas \u00eatre facilement reproduite sur la base de certaines donn\u00e9es d'entr\u00e9e. En effet, contrairement aux analyses statistiques classiques, les r\u00e8gles math\u00e9matiques d'un mod\u00e8le algorithmique complexe ne peuvent pas \u00eatre d\u00e9crites par une poign\u00e9e de param\u00e8tres (lin\u00e9aires).<\/p>\n\n\n\n

En fait, je pense que la transparence et l'explicabilit\u00e9 ne sont indispensables que dans les applications \u00e0 haut risque de l'intelligence artificielle (IA). Dans ce cas, on n'est toutefois pas sans d\u00e9fense face au probl\u00e8me de la bo\u00eete noire. La recherche a d\u00e9velopp\u00e9 de nombreuses m\u00e9thodes autour de l'Explainable Artificial Intelligence (XAI). SAP, par exemple, int\u00e8gre continuellement ces nouvelles options dans ses technologies afin de rendre la logique des mod\u00e8les cr\u00e9\u00e9s plus facilement compr\u00e9hensible.<\/p>\n\n\n\n

Argument 1 :<\/strong> Le manque de transparence a aussi ses avantages. Il existe des cas d'application de l'apprentissage automatique dans lesquels le manque de tra\u00e7abilit\u00e9 devient v\u00e9ritablement un atout. Imaginez qu'un acteur interne ou externe veuille d\u00e9lib\u00e9r\u00e9ment manipuler un syst\u00e8me d\u00e9cisionnel (partiellement) automatis\u00e9 bas\u00e9 sur le ML. Mais comme il ne sait pas quelles donn\u00e9es d'entr\u00e9e conduisent \u00e0 quelle sortie dans le mod\u00e8le, cette intention devient nettement plus difficile. Les scientifiques appellent cet aspect la \"gameability\" (Langer et K\u00f6nig 2021).<\/p>\n\n\n\n

En outre, les scientifiques ont identifi\u00e9 d'autres avantages selon le cas d'application lorsqu'ils ont \u00e9valu\u00e9 les processus de d\u00e9cision assist\u00e9s par algorithmes. Le r\u00e9sultat : dans le cas de mod\u00e8les non transparents, ils conduisent \u00e0 une efficacit\u00e9 accrue ! La raison est aussi plausible que simple. Les machines ne se laissent pas distraire par des d\u00e9tails parfois inutiles et un flot d'informations. De plus, le manque de transparence contribue \u00e0 la protection des donn\u00e9es, si des donn\u00e9es personnelles devaient entrer dans le processus de formation.<\/p>\n\n\n\n

Argument 2 :<\/strong> le trade-off entre performance et transparence. Quelle que soit la demande de transparence, il faut garder \u00e0 l'esprit que la transparence se fait au d\u00e9triment de la pr\u00e9cision des mod\u00e8les. L'apprentissage automatique est con\u00e7u pour d\u00e9couvrir des mod\u00e8les d\u00e9taill\u00e9s et non lin\u00e9aires dans les donn\u00e9es et les mettre \u00e0 disposition dans les mod\u00e8les (Kellogg et al. 2020, pp. 370-371). Pour augmenter la transparence, on pourrait r\u00e9duire successivement cette complexit\u00e9 ou utiliser des algorithmes moins complexes. Toutefois, ces deux mesures r\u00e9duisent par la suite la pr\u00e9cision des r\u00e9sultats des pr\u00e9visions. La force de l'apprentissage automatique est donc annul\u00e9e. Un aspect important qui m\u00e8ne directement au troisi\u00e8me argument.<\/p>\n\n\n\n

Argument 3 :<\/strong> Le manque de transparence est une caract\u00e9ristique essentielle de l'apprentissage automatique. Alors que les statistiques traditionnelles sont con\u00e7ues pour comprendre les donn\u00e9es, l'apprentissage automatique tente de rendre les donn\u00e9es existantes utilisables, c'est-\u00e0-dire, par exemple, d'\u00e9tablir des pr\u00e9visions aussi pr\u00e9cises que possible sur la base de donn\u00e9es historiques. Si la reconnaissance de mod\u00e8les dans les donn\u00e9es est l'objectif principal du projet (data mining), l'apprentissage automatique pourrait tout simplement ne pas \u00eatre le bon outil (Rudin 2019). Dans un projet, les statistiques ou m\u00eame l'analyse descriptive des donn\u00e9es dans le style d'un tableau de bord (Slice and Dice, Drill-Down) peuvent \u00eatre combin\u00e9es avec l'apprentissage automatique. Chaque outil remplit alors son objectif principal et des synergies se cr\u00e9ent. Chaque artisan utilise toute une bo\u00eete \u00e0 outils. Pour compl\u00e9ter la m\u00e9taphore : L'apprentissage automatique est un tr\u00e8s bon outil universel comparable \u00e0 une visseuse sans fil. Ce n'est pas pour autant qu'il permet de scier des planches.<\/p>\n\n\n\n

Argument 4 :<\/strong> Hey, as long as it works ?! Permettez-moi de commencer par une br\u00e8ve exp\u00e9rience de pens\u00e9e. Pr\u00e9f\u00e9rez-vous voler dans un avion que vous avez vous-m\u00eame examin\u00e9 en d\u00e9tail sur le plan technique et diss\u00e9qu\u00e9 jusqu'au moindre boulon, ou dans un avion qui a pass\u00e9 avec brio toutes les normes de test et les vols d'essai prescrits ? Il est certain que presque tout le monde n'a pas les connaissances en ing\u00e9nierie ou du moins pas la patience n\u00e9cessaire pour la premi\u00e8re solution. C'est pourquoi nous avons recours \u00e0 la deuxi\u00e8me option. Cette analogie a \u00e9t\u00e9 faite par Cassie Kozyrkov, qui est connue pour \u00eatre la scientifique en chef des d\u00e9cisions chez Google.<\/p>\n\n\n\n

Cassie Kozyrkov fait \u00e9galement remarquer que dans l'apprentissage automatique, on proc\u00e8de \u00e9galement \u00e0 un essai. Ce test hors \u00e9chantillon est en principe un examen : les jeux de donn\u00e9es (t\u00e2ches) sont diff\u00e9rents de ceux qui ont \u00e9t\u00e9 mis \u00e0 disposition pour l'entra\u00eenement (devoirs). Dans la pratique, il vaut souvent la peine d'effectuer ces tests hors \u00e9chantillon de mani\u00e8re d\u00e9taill\u00e9e et approfondie plut\u00f4t que de courir apr\u00e8s une transparence souhait\u00e9e. Cet argument a certainement un grand poids, mais il exige de repenser la mani\u00e8re dont les processus d\u00e9cisionnels des entreprises sont justifi\u00e9s. C'est pourquoi il faut du temps pour qu'il arrive \u00e0 l'esprit des utilisateurs. Les data scientists sont ici appel\u00e9s \u00e0 expliquer en termes facilement compr\u00e9hensibles les implications de leurs strat\u00e9gies et r\u00e9sultats de test.<\/p>\n\n\n\n

Argument 5 :<\/strong> La recherche et la technologie ne s'arr\u00eatent pas - Explainable AI. Enfin, je voudrais souligner le fait important qu'il n'est effectivement pas toujours possible de renoncer \u00e0 la transparence dans l'apprentissage automatique. La transparence est absolument n\u00e9cessaire dans les applications \u00e0 haut risque qui ont une influence directe sur la vie des gens. En font partie les aides \u00e0 la d\u00e9cision par l'apprentissage automatique dans des domaines sensibles qui peuvent fermer des portes. C'est le cas, entre autres, de l'octroi de cr\u00e9dits, du recrutement ou des ressources humaines. Dans de tels domaines, la garantie de l'\u00e9quit\u00e9 et de l'\u00e9galit\u00e9 de traitement est une priorit\u00e9 absolue et ne peut \u00eatre cr\u00e9\u00e9e sans une transparence et une explicabilit\u00e9 des mod\u00e8les. Heureusement, le progr\u00e8s technologique ne s'arr\u00eate pas l\u00e0. SAP, par exemple, int\u00e8gre continuellement depuis quelques ann\u00e9es l'IA explicable dans ses produits d'analyse pr\u00e9dictive. Dans des techniques telles que SAP Analytics Cloud ou Hana Predictive Analytics Library, il est toujours possible de rendre plus transparents, dans une certaine mesure, des mod\u00e8les complexes d'apprentissage automatique. Les m\u00e9thodes extraient des informations telles que l'effet de facteurs d'influence individuels sur les sorties des mod\u00e8les ou approchent les mod\u00e8les avec des syst\u00e8mes de r\u00e8gles compr\u00e9hensibles qui reposent sur des questions fondamentales : Et si ? Et surtout, que se passerait-il si le facteur d'influence X changeait ?<\/p>\n\n\n\n

Conclusion : Explainable AI<\/h2>\n\n\n\n


Utiliser l'apprentissage automatique simplement parce qu'il est dans l'air du temps en raison de l'engouement pour l'IA autour de ChatGPT n'est pas toujours judicieux. Si l'extraction de connaissances est un objectif, il faudrait peut-\u00eatre miser sur un autre outil d\u00e8s le d\u00e9but du projet. Toutefois, une fois qu'un cas d'application appropri\u00e9 de l'apprentissage automatique a \u00e9t\u00e9 trouv\u00e9, des tests approfondis sont le facteur d\u00e9cisif pour la validation. La transparence peut \u00e9galement \u00eatre cr\u00e9\u00e9e pour les mod\u00e8les complexes si n\u00e9cessaire, mais il faut alors investir dans un savoir-faire suppl\u00e9mentaire et dans l'application de m\u00e9thodes d'IA explicables. Mon opinion finale en ce qui concerne le titre de cet article : Le ph\u00e9nom\u00e8ne de la bo\u00eete noire pour l'apprentissage automatique ne devrait constituer un obstacle \u00e0 l'innovation dans le domaine de l'apprentissage automatique que dans des cas exceptionnels et critiques.<\/p>\n\n\n\n

\"\"<\/a><\/figure>","protected":false},"excerpt":{"rendered":"

Maschinelles Lernen liefert mir lediglich eine Blackbox, damit k\u00f6nnen wir nichts anfangen.
\nDer Satz, der mir h\u00e4ufig in der Praxis begegnet, stammt meist von in Datenanalytik weniger ausgebildeten, zuk\u00fcnftigen Nutzern eines KI-Projektes. Doch stimmt diese Aussage?<\/p>","protected":false},"author":2368,"featured_media":134306,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"pmpro_default_level":"","footnotes":""},"categories":[2,43645],"tags":[625,43669],"coauthors":[40405],"class_list":["post-134303","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sap-nachrichten","category-mag-23-11","tag-ai","tag-blackbox","pmpro-has-access"],"acf":[],"featured_image_urls_v2":{"full":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553.jpg",1000,400,false],"thumbnail":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-150x150.jpg",150,150,true],"medium":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-400x160.jpg",400,160,true],"medium_large":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-768x307.jpg",768,307,true],"large":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553.jpg",1000,400,false],"image-100":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-100x40.jpg",100,40,true],"image-480":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-480x192.jpg",480,192,true],"image-640":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-640x256.jpg",640,256,true],"image-720":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-720x288.jpg",720,288,true],"image-960":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-960x384.jpg",960,384,true],"image-1168":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553.jpg",1000,400,false],"image-1440":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553.jpg",1000,400,false],"image-1920":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553.jpg",1000,400,false],"1536x1536":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553.jpg",1000,400,false],"2048x2048":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553.jpg",1000,400,false],"trp-custom-language-flag":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-18x7.jpg",18,7,true],"bricks_large_16x9":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553.jpg",1000,400,false],"bricks_large":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553.jpg",1000,400,false],"bricks_large_square":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553.jpg",1000,400,false],"bricks_medium":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-600x240.jpg",600,240,true],"bricks_medium_square":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-600x400.jpg",600,400,true],"profile_24":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-24x24.jpg",24,24,true],"profile_48":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-48x48.jpg",48,48,true],"profile_96":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-96x96.jpg",96,96,true],"profile_150":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-150x150.jpg",150,150,true],"profile_300":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/11\/WEB_AI_shutterstock_1468576553-300x300.jpg",300,300,true]},"post_excerpt_stackable_v2":"

Maschinelles Lernen liefert mir lediglich eine Blackbox, damit k\u00f6nnen wir nichts anfangen.
\nDer Satz, der mir h\u00e4ufig in der Praxis begegnet, stammt meist von in Datenanalytik weniger ausgebildeten, zuk\u00fcnftigen Nutzern eines KI-Projektes. Doch stimmt diese Aussage?<\/p>\n","category_list_v2":"Community Nachrichten<\/a>, MAG 23-11<\/a>","author_info_v2":{"name":"E3 Magazine","url":"https:\/\/e3mag.com\/fr\/author\/e3_magazin\/"},"comments_num_v2":"1 commentaire","_links":{"self":[{"href":"https:\/\/e3mag.com\/fr\/wp-json\/wp\/v2\/posts\/134303","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/e3mag.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/e3mag.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/e3mag.com\/fr\/wp-json\/wp\/v2\/users\/2368"}],"replies":[{"embeddable":true,"href":"https:\/\/e3mag.com\/fr\/wp-json\/wp\/v2\/comments?post=134303"}],"version-history":[{"count":2,"href":"https:\/\/e3mag.com\/fr\/wp-json\/wp\/v2\/posts\/134303\/revisions"}],"predecessor-version":[{"id":134307,"href":"https:\/\/e3mag.com\/fr\/wp-json\/wp\/v2\/posts\/134303\/revisions\/134307"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/e3mag.com\/fr\/wp-json\/wp\/v2\/media\/134306"}],"wp:attachment":[{"href":"https:\/\/e3mag.com\/fr\/wp-json\/wp\/v2\/media?parent=134303"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/e3mag.com\/fr\/wp-json\/wp\/v2\/categories?post=134303"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/e3mag.com\/fr\/wp-json\/wp\/v2\/tags?post=134303"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/e3mag.com\/fr\/wp-json\/wp\/v2\/coauthors?post=134303"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}