Bitkom à propos de l'Institut pour la sécurité de l'IA

En créant un institut de sécurité dédié à l’intelligence artificielle, l’Allemagne entend rattraper son retard par rapport à des pays comme le Royaume-Uni, les États-Unis ou la France. „ Ces derniers ont déjà mis en place leurs propres instituts “, explique Susanne Dehmel, membre de la direction de Bitkom. „ Les systèmes d’IA ouvrent de nouvelles perspectives, mais s’accompagnent également de nouveaux risques. En créant un institut de sécurité dédié à l’IA, l’Allemagne met en place les conditions nécessaires pour évaluer ces risques de manière approfondie et précoce. Le DE-AISI devrait se voir confier un mandat de recherche distinct de celui des institutions existantes et dresser un état des lieux concernant les nouveaux modèles dits “ de pointe ». L’accent doit être mis sur les nouveaux risques systémiques pour la sécurité et la souveraineté de l’Allemagne. Les questions relatives au droit du travail, à la protection des consommateurs, à la protection des données ou à l’éthique de l’IA sont déjà traitées avec compétence par d’autres instances. Le nouvel institut de sécurité ne pourra réussir que si nous parvenons à attirer des experts internationaux de premier plan. Pour cela, l’institut a besoin d’un financement au moins équivalent à celui de l’AISI britannique. »

Le parcours de l'Allemagne vers l'élite mondiale

Les capacités des systèmes d'IA de pointe évoluent à un rythme effréné, tout comme leur importance pour la sécurité nationale, la résilience économique et la souveraineté technologique. Qu'il s'agisse de cyberattaques, de désinformation ou d'utilisation abusive de modèles d'IA performants, les gouvernements du monde entier investissent de plus en plus dans leurs propres capacités afin de mieux comprendre et évaluer les opportunités et les risques liés à l'IA de pointe. Dans le cadre de la Déclaration de Séoul de 2024, l'Allemagne s'est engagée à soutenir la mise en place d'institutions dédiées à cet effet.

Mais comment un institut allemand dédié à la sécurité de l'IA devrait-il concrètement être organisé ? Quelles missions devrait-il assumer et lesquelles ne devrait-il pas prendre en charge ? Comment réussir à attirer les meilleurs talents internationaux tout en évitant la création de structures redondantes par rapport aux autorités et aux instituts de recherche existants ? Bitkom a élaboré à cet effet un projet d'institut allemand dédié à la sécurité de l'IA de niveau mondial.

„ Avec la création d'un institut dédié à la sécurité de l'IA
l'Allemagne met en place les conditions nécessaires pour prévenir les risques
” afin de pouvoir les évaluer de manière approfondie et suffisamment tôt. »

Susanne Dehmel,
Membre de la direction,
Bitkom

Sécurité pour Frontier-AI

L'accent est mis sur l'évaluation technique de modèles d'IA de pointe, l'élaboration de rapports de situation en matière de sécurité à l'intention du gouvernement fédéral, ainsi que la recherche sur les mesures de sécurité applicables à l'IA de pointe.

Pour garantir le succès de cette initiative, il serait essentiel de disposer d'un mandat clairement défini, sans fonction de régulation, d'une infrastructure technique performante, d'un réseau international, ainsi que de la capacité à attirer en Allemagne des experts de renommée mondiale.

Les progrès fulgurants réalisés dans le domaine de l'intelligence artificielle ont une incidence directe sur la sécurité nationale et la souveraineté de l'Allemagne. Les nouvelles capacités cybernétiques du modèle d'IA „ Mythos “ développé par Anthropic, notamment, le démontrent une fois de plus de manière impressionnante. L’Allemagne n’y est toutefois pas suffisamment préparée, notamment parce que le gouvernement fédéral ne dispose pas d’une analyse de situation suffisamment nuancée concernant les capacités et les répercussions des modèles d’IA de pointe. En signant la Déclaration de Séoul de 2024, l’Allemagne s’est expressément engagée à soutenir la création ou l’extension d’instituts dédiés à la sécurité et à la sûreté de l’IA (AI Safety/Security Institutes) et d’établissements similaires. Le gouvernement fédéral prévoit désormais de tenir cet engagement, mais des questions cruciales concernant la mise en place de ses propres capacités étatiques restent encore en suspens.

Recommandations d'action de Bitkom

L'Allemagne devrait mettre en place à court terme son propre institut allemand de sécurité de l'IA, de niveau mondial, sur le modèle de l'UK AI Security Institute (UK AISI). Dans sa prise de position, Bitkom estime que les aspects suivants sont essentiels à la réussite de ce projet :

Le DE-AISI devrait se voir confier un mandat exclusivement axé sur la recherche et l'analyse de la situation concernant les capacités, les mesures de sécurité et les répercussions des modèles d'IA de pointe. Il ne devrait explicitement pas se voir attribuer de mandat de régulation, et son mandat de recherche doit être clairement distingué de celui des instituts de recherche existants. Le DE-AISI devrait se concentrer, sur le plan thématique, sur les répercussions systémiques des modèles d’IA de pointe sur la sécurité nationale et la souveraineté de l’Allemagne – en particulier sur les capacités cyberoffensives, l’utilisation abusive à des fins de développement d’armes de destruction massive, les risques de perte de contrôle et la manipulation de masse. D'autres organismes seraient compétents en matière de protection des données ou d'éthique de l'IA. En outre, un financement adéquat serait nécessaire, avec un budget initial d'au moins 100 millions d'euros pour les deux premières années, ainsi qu'un financement de suivi garanti à long terme d'au moins 75 millions d'euros par an. (Source : Bitkom)