Commentaire de Sebastian Westphal, membre du comité directeur de DSAG, sur les développements de l'AI-Act

Le groupe d'utilisateurs SAP germanophones (DSAG) a profité des derniers développements pour évaluer l'importance d'une loi européenne potentielle sur l'IA. Sebastian Westphal, directeur technologique du DSAG, commente.

"La réglementation de l'IA prévue par l'UE doit servir à réduire les risques potentiels de l'IA et à prévenir les dangers qui peuvent être liés à son utilisation. En même temps, elle ne doit pas constituer une surréglementation qui freine l'innovation en Europe et qui pèse sur les entreprises. La législation finale a donc le potentiel d'influencer fortement la vitesse de développement et de diffusion des applications d'IA. 

Toutes les parties prenantes de l'IA devraient donc se pencher suffisamment tôt sur les conséquences possibles pour l'économie et la société. En effet, le cadre juridique attendu pour une IA digne de confiance et les principaux éléments clés d'une réglementation sont déjà visibles sur la base du débat actuel. Ceux-ci ne concerneront pas seulement les fournisseurs de systèmes d'IA, mais aussi les entreprises qui utilisent un système d'IA sous leur propre responsabilité, ainsi que tous les acteurs de la chaîne de valeur de l'IA.

Définition, réglementation, risque

Du point de vue de DSAG, il est urgent de trouver un équilibre entre la réglementation et la promotion des innovations en matière d'IA. En effet, la classification des applications d'IA, telle qu'elle est prévue par l'AI Act, est déjà très problématique : elle se concentre sur les applications interdites dites à haut risque, sans qu'il soit déjà possible de définir clairement ces applications. Les différentes définitions des partenaires de négociation actuels vont parfois très loin et pourraient même inclure, en cas d'interprétation stricte, des logiciels statistiques ou des processus d'évaluation assistés par l'IA. Si cette définition large est acceptée, il en résultera des obligations qui empêcheront l'utilisation de l'IA à de nombreux endroits où elle pourrait pourtant faciliter et rendre plus efficace - par exemple dans la numérisation de l'administration publique.

Les points forts actuels de la discussion, à savoir les "deepfakes" et les "droits d'auteur à grande échelle", sont problématiques du point de vue de DSAG. En ce qui concerne les "deepfakes", les grands problèmes ne peuvent guère être maîtrisés avec les instruments de régulation et les interdictions actuels. Et en ce qui concerne le "grand espace du droit d'auteur", l'UE a déjà fait piètre figure par le passé lors de l'introduction du règlement général sur la protection des données (RGPD). Même si les deepfakes et le droit d'auteur sont pertinents, ils ne sont que deux scénarios parmi d'autres dans la réglementation de l'IA.

“La réglementation de l'UE en matière d'IA doit servir à réduire les risques éventuels de l'IA et à
prévenir les dangers.“

Sebastian Westphal,
Directeur de la technologie,
DSAG

La classification des risques des cas d'application constituera un point crucial. Outre l'évaluation des systèmes eux-mêmes, la question se pose de savoir qui doit certifier tous les "systèmes à haut risque" basés sur l'IA. Il s'agit d'éviter que l'UE ne s'impose une procédure administrative inutile et coûteuse, dont les grandes entreprises pourront peut-être se payer le coût, mais pas les petites et moyennes entreprises. Le risque que l'UE soit complètement distancée par la Chine et les États-Unis dans le cadre de l'évolution rapide des technologies d'intelligence artificielle est plus que réel en cas de surréglementation.

Grands modèles européens d'IA

Il semble que l'UE veuille l'IA la plus réglementée du monde. Elle ne doit cependant pas oublier de peser soigneusement les intérêts économiques afin d'éviter une éventuelle surréglementation. C'est dans ce contexte que l'on peut résumer les exigences de la DSAG à l'égard de la politique : 

• Une stratégie gouvernementale en matière d'IA est nécessaire afin de créer un cadre institutionnel pour le développement de la technologie. 
• L'utilisation de l'IA devrait être économiquement attractive pour les PME et un soutien financier de l'IA devrait être établi - comme par exemple l'initiative "Large European AI Models (LEAM:AI)" pour développer des modèles d'IA à grande échelle et riches en données.
• Des règles strictes en matière de protection des données ne doivent pas entraver le bon déploiement de l'IA. 
• Il est nécessaire de mettre en place un organisme central de coordination pour l'utilisation de l'IA dans le secteur public afin d'assurer le transfert de connaissances, le cadre juridique, le soutien technique et la formation.
• Une meilleure éducation autour de tous les thèmes de la numérisation est nécessaire pour promouvoir un consensus social sur l'utilisation de l'IA - car la technologie est déjà réelle et toutes les entreprises devront apprendre à l'utiliser et à travailler avec elle. 

L'intelligence artificielle (IA) est un outil puissant, mais on oublie souvent qu'elle a besoin de données pour être vraiment utile. L'idée selon laquelle les experts techniques et les consultants peuvent facilement mettre en œuvre des systèmes d'IA dans les entreprises est un leurre. En fait, les professionnels de l'entreprise sont essentiels pour tirer profit des avantages des systèmes d'IA, par exemple pour augmenter la productivité - même si l'IA n'est pas la seule panacée que l'on fait d'elle dans le cadre de l'engouement actuel.

Ainsi, un défi n'est pas pris en compte lorsqu'il s'agit d'utiliser les technologies IA de manière durable : L'entraînement des réseaux neuronaux artificiels nécessite d'énormes quantités de puissance de calcul, d'énergie et de ressources. Les entreprises de développement ne donnent pas d'informations détaillées sur la quantité exacte d'énergie nécessaire.

Ce qui vaut pour l'UE dans un contexte général s'applique également à SAP en tant que fournisseur de produits logiciels pour les processus d'entreprise en particulier : Comme de nombreux autres fabricants de logiciels, SAP a reconnu que l'IA est un thème d'avenir important et complète en conséquence son portefeuille existant. L'IA ne doit pas seulement permettre d'automatiser et d'accélérer les processus dans les entreprises, mais aussi de promouvoir une utilisation plus efficace des données. Les entreprises ayant un degré de numérisation élevé pourraient en profiter particulièrement en ce qui concerne le développement de modèles commerciaux. 

Les annonces telles que celle faite par SAP en juillet, selon laquelle les innovations en matière d'IA ne seront disponibles que pour les clients disposant de certains contrats de cloud et moyennant une majoration de prix correspondante, sont contre-productives. Pour une numérisation réussie, il est indispensable que SAP mette toutes les innovations en matière d'IA à la disposition de tous ses clients. En outre, il est nécessaire que SAP garantisse des conditions-cadres uniformes et un suivi complet lors de l'intégration de grands modèles linguistiques dans les processus SAP. Parallèlement, il faut des conditions de licence et d'utilisation transparentes - notamment en ce qui concerne les partenariats de SAP avec d'autres entreprises dans le contexte de l'IA. Il est nécessaire de clarifier l'utilisation indirecte des données des systèmes SAP pour les applications d'IA et de la définir dans les accords de licence. Les entreprises devraient également bénéficier d'un soutien et de guides de bonnes pratiques pour l'intégration des applications d'IA, afin de garantir la protection des données et de mettre en œuvre des cas d'utilisation concrets".

dsag.de