Bitkom zum KI-Sicherheitsinstitut

Mit der Gründung eines Sicherheitsinstituts für künstliche Intelligenz soll Deutschland mit Staaten wie Großbritannien, den USA oder Frankreich gleichziehen. „Diese haben bereits eigene Institute aufgebaut“, so Susanne Dehmel, Mitglied der Bitkom-Geschäftsleitung. „KI-Systeme eröffnen neue Möglichkeiten, damit gehen aber auch neue Risiken einher. Mit der Einrichtung eines Sicherheitsinstituts für KI schafft Deutschland die Voraussetzungen, solche Risiken frühzeitig fundiert einschätzen zu können. Das DE-AISI sollte ein von bestehenden Einrichtungen abgegrenztes Forschungsmandat erhalten und ein Lagebild mit Blick auf die neuen sogenannten Frontier-Modelle erstellen. Im Zentrum müssen neue systemische Risiken für Deutschlands Sicherheit und Souveränität stehen. Fragen des Arbeits-, Verbraucher- und Datenschutzes oder der KI-Ethik werden bereits an anderer Stelle kompetent behandelt. Das neue Sicherheitsinstitut wird nur erfolgreich sein können, wenn wir dafür internationale Spitzenkräfte gewinnen. Dafür braucht das Institut mindestens eine Finanzierung auf dem Niveau des britischen AISI.“

Deutschlands Weg zur Weltklasse

Die Fähigkeiten fortschrittlicher KI-Systeme entwickeln sich mit hoher Geschwindigkeit und damit auch ihre Bedeutung für nationale Sicherheit, wirtschaftliche Resilienz und technologische Souveränität. Ob Cyberangriffe, Desinformation oder der Missbrauch leistungsfähiger KI-Modelle: Regierungen weltweit investieren zunehmend in eigene Kapazitäten, um Chancen und Risiken von Frontier-AI besser zu verstehen und zu bewerten. Deutschland hat sich im Rahmen der Seoul Declaration 2024 dazu bekannt, den Aufbau entsprechender Einrichtungen zu unterstützen.

Doch wie sollte ein deutsches AI Security Institute konkret ausgestaltet werden? Welche Aufgaben sollte es übernehmen und welche nicht? Wie kann es gelingen, internationale Spitzentalente zu gewinnen und gleichzeitig Doppelstrukturen zu bestehenden Behörden und Forschungseinrichtungen zu vermeiden? Bitkom hat hierzu ein Konzept für ein deutsches AI Security Institute auf Weltklasseniveau entwickelt.

„Mit der Einrichtung eines Sicherheitsinstituts für KI
schafft Deutschland die Voraussetzungen, Risiken
frühzeitig fundiert einschätzen zu können.”

Susanne Dehmel,
Mitglied der Geschäftsleitung,
Bitkom

Security für Frontier-AI

Im Mittelpunkt stehen die technische Evaluierung fortschrittlicher KI-Modelle, die Erstellung sicherheitsrelevanter Lagebilder für die Bundesregierung sowie die Erforschung von Sicherheitsmaßnahmen für Frontier-AI.

Entscheidend für den Erfolg wären dabei ein klar umrissenes Mandat ohne Regulierungsfunktion, eine leistungsfähige technische Infrastruktur, internationale Vernetzung sowie die Fähigkeit, weltweit führende Expertinnen und Experten für Deutschland zu gewinnen.

Die rasanten Fortschritte im Bereich der künstlichen Intelligenz beeinflussen unmittelbar die nationale Sicherheit und Souveränität Deutschlands. Nicht zuletzt die neuartigen Cyberfähigkeiten des KI-Modells „Mythos“ von Anthropic demonstrieren dies noch einmal eindrücklich. Deutschland ist hierauf jedoch nicht angemessen vorbereitet – unter anderem, weil der Bundesregierung ein hinreichend differenziertes Lagebild über die Fähigkeiten und Auswirkungen von Frontier-AI-Modellen fehlt. Deutschland hat sich mit der Seoul Declaration 2024 ausdrücklich dazu bekannt, den Aufbau bzw. die Erweiterung von AI Safety/Security Institutes und vergleichbaren Einrichtungen zu unterstützen. Die Bundesregierung plant diese Zusage jetzt einzulösen, kritische Ausgestaltungsfragen zum Aufbau eigener staatlicher Kapazitäten sind jedoch bislang noch offen.

Bitkom-Handlungsempfehlungen

Deutschland solle kurzfristig ein eigenes deutsches AI Security Institute auf Weltklasseniveau nach Vorbild des UK AI Security Institute (UK AISI) aufbauen. Folgende Ausgestaltungsaspekte sind hierbei für Bitkom in seinem Positionspapier zentral für den Erfolg:

Das DE-AISI sollte ein Mandat ausschließlich zur Forschung und Lagebilderstellung zu Fähigkeiten, Sicherheitsmaßnahmen und Auswirkungen von Frontier-AI-Modellen erhalten. Es solle explizit kein Regulierungsmandat erhalten, sein Forschungsmandat muss klar von bestehenden Forschungseinrichtungen abgegrenzt werden. Das DE-AISI solle sich thematisch auf systemische Auswirkungen von Frontier-AI-Modellen auf Deutschlands nationale Sicherheit und Souveränität fokussieren – insbesondere auf Cyberoffensivfähigkeiten, Missbrauch zur Entwicklung von Massenvernichtungswaffen, Kontrollverlustrisiken und Massenmanipulation. Für Datenschutz oder KI-Ethik seien andere Organe zuständig. Zudem brauche es eine angemessene Finanzierung mit einem Anfangsbudget von mindestens 100 Millionen Euro für die ersten zwei Jahre sowie eine langfristig gesicherte Anschlussfinanzierung von mindestens 75 Millionen Euro jährlich. (Quelle: Bitkom)