Comentario sobre la evolución de la Ley de IA EU
El Grupo de Usuarios SAP de habla alemana (DSAG) ha aprovechado los últimos acontecimientos para evaluar la importancia de una posible Ley de Inteligencia Artificial de la UE. Sebastian Westphal, Director de Tecnología del DSAG, comenta.
"La regulación de la IA prevista por la UE debe servir para reducir los riesgos potenciales de la IA y prevenir los peligros que puedan asociarse a su uso. Al mismo tiempo, sin embargo, no debe representar un exceso de regulación que inhiba la innovación en Europa y suponga una carga para las empresas. Por lo tanto, la legislación final tiene el potencial de influir fuertemente en la velocidad de desarrollo y difusión de las aplicaciones de IA.
Por lo tanto, todos los implicados en la IA deberían considerar el impacto potencial en la economía y la sociedad en una fase temprana. Esto se debe a que el marco jurídico previsto para una IA digna de confianza y los elementos clave de la regulación ya pueden verse sobre la base del debate actual. Estos no solo afectarán a los proveedores de sistemas de IA, sino también a las empresas que utilicen un sistema de IA bajo su propia responsabilidad, así como a todas las partes interesadas a lo largo de la cadena de valor de la IA.
Definición, normativa, riesgo
Desde el punto de vista del DSAG, es urgente encontrar un equilibrio entre la regulación y la promoción de las innovaciones de la IA. Incluso la categorización de las aplicaciones de IA, tal y como se contempla en la Ley de IA, es muy problemática: se centra en las llamadas aplicaciones de alto riesgo que están prohibidas, sin que ya sea posible una definición claramente definible de estas aplicaciones. Las diversas definiciones de los actuales interlocutores son a veces muy amplias y, si se interpretan de forma estricta, podrían incluir incluso el software estadístico o los procesos de análisis asistidos por IA. Si se acepta esta definición tan amplia, se impondrán requisitos que impedirán el uso de la IA en muchos ámbitos, pero en los que podría aportar alivio y eficiencia, por ejemplo en la digitalización de la administración pública.
Los actuales focos de debate, a saber, las "deepfakes" y los "derechos de autor a gran escala", son problemáticos desde el punto de vista del DSAG. En cuanto a las falsificaciones profundas, los principales problemas apenas pueden abordarse con los instrumentos reguladores y las prohibiciones actuales. Y en el pasado, la UE ya ha hecho un mal papel en lo que respecta a los "derechos de autor a gran escala" con la introducción del Reglamento General de Protección de Datos (RGPD). Aunque los deepfakes y los derechos de autor son relevantes, son solo dos escenarios entre muchos cuando se trata de regular la IA.
“La normativa de la UE sobre IA pretende reducir los riesgos potenciales de la IA y
para prevenir peligros.“
Sebastian Westphal,
Director de Tecnología,
DSAG
Un punto conflictivo será la clasificación de riesgos de los casos de uso. Además de la evaluación de los propios sistemas, también está la cuestión de quién debe certificar realmente todos los "sistemas de alto riesgo" basados en IA. Es importante evitar que la UE se imponga a sí misma un proceso administrativo innecesario y costoso, que las grandes empresas pueden permitirse, pero no las pequeñas y medianas. El riesgo de que la UE quede completamente rezagada tecnológicamente respecto a China y Estados Unidos en el contexto del rápido desarrollo de las tecnologías de IA es más que real.
Grandes modelos europeos de IA
Parece que la UE quiere la IA más regulada del mundo. Sin embargo, no debe olvidar sopesar cuidadosamente los intereses económicos para evitar un posible exceso de regulación. En este contexto, pueden resumirse las exigencias del GASD a los políticos:
- Es necesaria una estrategia estatal de IA para crear un marco institucional para el desarrollo de la tecnología.
- El uso de la IA debe ser económicamente atractivo para las PYME y deben establecerse ayudas financieras para la IA, como la iniciativa "Grandes Modelos Europeos de IA (LEAM:AI)" para desarrollar grandes modelos de IA ricos en datos.
- Las estrictas normas de protección de datos no deben obstaculizar el éxito del uso de la IA.
- Se necesita un organismo central de coordinación para el uso de la IA en el sector público que garantice la transferencia de conocimientos, los marcos jurídicos, el apoyo técnico y la formación.
- Es necesario mejorar la educación sobre todos los aspectos de la digitalización para promover un consenso social sobre cómo abordar la IA, porque la tecnología ya es real y todas las empresas tendrán que aprender a manejarla y a trabajar con ella.
La inteligencia artificial (IA) es una herramienta poderosa, pero a menudo se pasa por alto que necesita datos para ser realmente útil. La idea de que los expertos técnicos y los consultores pueden implantar fácilmente sistemas de IA en las organizaciones es una falacia. De hecho, los profesionales de la empresa son cruciales para aprovechar las ventajas de los sistemas de IA, como el aumento de la productividad, aunque la IA no sea la panacea única que se pretende hacer creer en el bombo publicitario actual.
Hay un reto que sigue sin tenerse en cuenta cuando se trata del uso sostenible de las tecnologías de IA: Entrenar redes neuronales artificiales requiere enormes cantidades de potencia de cálculo, energía y recursos. Las empresas desarrolladoras no facilitan información detallada sobre cuánta energía se necesita exactamente.
Lo que se aplica a la UE en un contexto general también es aplicable a SAP como proveedor de productos de software para procesos empresariales en particular: Al igual que muchos otros fabricantes de software, SAP ha reconocido que la IA es un tema importante para el futuro y está complementando su cartera existente en consecuencia. La IA no solo debe automatizar y acelerar los procesos en las empresas, sino también promover un uso más eficiente de los datos. Las empresas con un alto grado de digitalización podrían beneficiarse especialmente de ello en términos de desarrollo de modelos de negocio.
Anuncios como el realizado por SAP en julio de que las innovaciones de IA solo estarán disponibles para los clientes con determinados contratos en la nube y con la correspondiente prima de precio son contraproducentes. Para que la digitalización tenga éxito, es esencial que SAP ponga todas las innovaciones de IA a disposición de todos los clientes. También es necesario que SAP garantice unas condiciones marco estandarizadas y una supervisión exhaustiva a la hora de integrar grandes modelos lingüísticos en los procesos de SAP. Al mismo tiempo, se necesitan condiciones transparentes de licencia y uso, especialmente en relación con las asociaciones de SAP con otras empresas en el contexto de la IA. Hay que aclarar el uso indirecto de los datos de los sistemas SAP para aplicaciones de IA y definirlo en los acuerdos de licencia. Las empresas también deben recibir apoyo y guías de mejores prácticas para la integración de aplicaciones de IA con el fin de garantizar la protección de datos e implementar casos de uso específicos."
