Bitkom sobre el Instituto de Seguridad de la IA

Con la creación de un instituto de seguridad para la inteligencia artificial, Alemania pretende ponerse a la altura de países como el Reino Unido, Estados Unidos o Francia. „Estos ya han creado sus propios institutos“, afirma Susanne Dehmel, miembro de la dirección de Bitkom. „Los sistemas de IA abren nuevas posibilidades, pero también conllevan nuevos riesgos. Con la creación de un instituto de seguridad para la IA, Alemania sienta las bases para poder evaluar dichos riesgos de forma temprana y fundamentada. El DE-AISI debería recibir un mandato de investigación diferenciado de las instituciones existentes y elaborar un análisis de la situación con respecto a los nuevos modelos denominados “de vanguardia». La atención debe centrarse en los nuevos riesgos sistémicos para la seguridad y la soberanía de Alemania. Las cuestiones relacionadas con la protección de los trabajadores, de los consumidores y de los datos, o con la ética de la IA, ya se tratan de forma competente en otros ámbitos. El nuevo instituto de seguridad solo podrá tener éxito si conseguimos atraer a los mejores expertos internacionales. Para ello, el instituto necesita, como mínimo, una financiación al nivel del AISI británico».“

El camino de Alemania hacia la excelencia mundial

Las capacidades de los sistemas avanzados de IA evolucionan a gran velocidad y, con ellas, también su importancia para la seguridad nacional, la resiliencia económica y la soberanía tecnológica. Ya se trate de ciberataques, desinformación o el uso indebido de potentes modelos de IA, los gobiernos de todo el mundo invierten cada vez más en sus propias capacidades para comprender y evaluar mejor las oportunidades y los riesgos de la IA de vanguardia. Alemania se ha comprometido, en el marco de la Declaración de Seúl de 2024, a apoyar la creación de las instituciones correspondientes.

Pero, ¿cómo debería configurarse concretamente un Instituto Alemán de Seguridad de la IA? ¿Qué funciones debería asumir y cuáles no? ¿Cómo se puede lograr atraer a los mejores talentos internacionales y, al mismo tiempo, evitar la duplicación de estructuras con respecto a las autoridades y centros de investigación ya existentes? Bitkom ha desarrollado un proyecto para crear un Instituto Alemán de Seguridad de la IA de primer nivel mundial.

„Con la creación de un instituto de seguridad para la IA
Alemania crea las condiciones necesarias y mitiga los riesgos
”poder evaluar de forma fundamentada y con antelación».”

Susanne Dehmel,
Miembro del Comité Ejecutivo,
Bitkom

Seguridad para Frontier-AI

El proyecto se centra en la evaluación técnica de modelos avanzados de IA, la elaboración de informes de situación relevantes para la seguridad destinados al Gobierno federal, así como en la investigación de medidas de seguridad para la IA de vanguardia.

Para que esto tenga éxito, sería fundamental contar con un mandato claramente definido sin funciones reguladoras, una infraestructura técnica eficaz, una red internacional y la capacidad de atraer a Alemania a expertos de primer nivel a escala mundial.

Los rápidos avances en el ámbito de la inteligencia artificial influyen directamente en la seguridad nacional y la soberanía de Alemania. Las novedosas capacidades cibernéticas del modelo de IA „Mythos“, de Anthropic, lo demuestran una vez más de forma contundente. Sin embargo, Alemania no está debidamente preparada para ello, entre otras cosas porque el Gobierno federal carece de una visión de la situación suficientemente detallada sobre las capacidades y las repercusiones de los modelos de IA de vanguardia. Con la Declaración de Seúl de 2024, Alemania se ha comprometido expresamente a apoyar la creación o ampliación de institutos de seguridad e inteligencia artificial y de instituciones similares. El Gobierno federal tiene ahora la intención de cumplir este compromiso, pero aún quedan por resolver cuestiones fundamentales relativas al desarrollo de sus propias capacidades estatales.

Recomendaciones de actuación de Bitkom

Alemania debería crear a corto plazo su propio instituto alemán de seguridad en IA de primer nivel, siguiendo el modelo del Instituto de Seguridad en IA del Reino Unido (UK AISI). Para Bitkom, en su documento de posición, los siguientes aspectos de diseño son fundamentales para el éxito:

El DE-AISI debería recibir un mandato exclusivamente destinado a la investigación y la elaboración de informes de situación sobre las capacidades, las medidas de seguridad y las repercusiones de los modelos de IA de vanguardia. No debería recibir, de forma explícita, ningún mandato regulador, y su mandato de investigación debe diferenciarse claramente del de los centros de investigación existentes. El DE-AISI debería centrarse temáticamente en las repercusiones sistémicas de los modelos de IA de vanguardia sobre la seguridad nacional y la soberanía de Alemania, en particular en las capacidades de ciberataque, el uso indebido para el desarrollo de armas de destrucción masiva, los riesgos de pérdida de control y la manipulación masiva. La protección de datos y la ética de la IA son competencia de otros organismos. Además, se necesita una financiación adecuada, con un presupuesto inicial de al menos 100 millones de euros para los dos primeros años, así como una financiación posterior garantizada a largo plazo de al menos 75 millones de euros anuales. (Fuente: Bitkom)