La seguridad debe replantearse en la era de la IA

El mensaje central de un discurso de apertura muy comentado resumió la situación: el mundo de las TI se encuentra en un desequilibrio estructural. Mientras que, por un lado, existe una industria de ataques valorada en miles de millones -con modelos de negocio como „Attack as a Service“, „Hacking as a Service“ u oleadas de ataques automatizados-, por otro, existen estructuras de defensa a menudo fragmentadas y con escasa financiación. El uso de la IA ha aumentado drásticamente el nivel de amenaza, no sólo a través de ataques basados en la IA, sino también a través del uso de la IA. En el envenenamiento de datos, por ejemplo, los atacantes falsifican el modelo de IA durante la fase de entrenamiento e incorporan vulnerabilidades ocultas o puertas traseras.

El objetivo de la evasión adversarial es engañar a la lógica de un agente introduciendo cambios apenas perceptibles en su entrada para que los datos se clasifiquen erróneamente. Con la inyección de avisos y herramientas, se induce a los agentes a utilizar herramientas autorizadas para acciones maliciosas no autorizadas.

Enfoque integrador de las amenazas

Esta evolución tiene consecuencias directas para las empresas. Los ciberataques no sólo son cada vez más frecuentes, sino también más precisos, más escalables y más difíciles de reconocer. Los mecanismos de seguridad tradicionales están alcanzando rápidamente sus límites. Esto se debe, entre otras cosas, a que la seguridad informática se sigue „añadiendo“ a muchos proyectos, es decir, sólo se tiene en cuenta al final. En vista de la situación actual de amenazas, este enfoque ya no es conveniente. Es necesario un enfoque integrador en el que la seguridad forme parte de todas las decisiones de arquitectura y desarrollo desde el principio. Esto se aplica no sólo al desarrollo de software, por ejemplo a las cadenas de suministro de software controladas, sino sobre todo a las operaciones. Aquí es donde se hace patente una peligrosa laguna en la práctica: Mientras que los prototipos y las pruebas de concepto a menudo se implementan rápidamente, faltan conceptos de seguridad bien pensados en la transición al uso productivo. Esto es especialmente cierto en el entorno SAP. Tradicionalmente, muchos sistemas SAP se consideraban comparativamente aislados, una especie de „castillo seguro“ protegido por su aislamiento. Pero esos días se han acabado. Con estrategias como la transformación en la nube, los entornos híbridos y la integración codo con codo, estos sistemas se abren cada vez más al mundo exterior. Las interfaces con aplicaciones de terceros, API y servicios en la nube están creando nuevas dependencias y, por tanto, nuevos vectores de ataque.

El código abierto en el contexto de la seguridad

En este contexto, el uso de tecnologías de código abierto es cada vez más importante en el ámbito de la seguridad. Sus ventajas no se limitan a los entornos de desarrollo: también hay un amplio espectro de marcos y herramientas establecidos en funcionamiento. Red Hat OpenShift ofrece más de 20 marcos para las áreas de Control y Protección, así como Detección y Respuesta, que cubren todo el ciclo de vida DevSecOps. Estos incluyen soluciones como „Application Configuration Analysis“, „Risk Profiling“ o „Runtime Behavioural Analysis“ y „Auto-Suggest Network Policies“. Demuestran cómo los mecanismos de seguridad modernos pueden respaldar las operaciones en curso hoy en día.

Los debates de las Jornadas Tecnológicas muestran claramente que la seguridad informática ha dejado de ser una cuestión marginal para convertirse en un factor clave del éxito de la transformación digital. Las empresas deben adaptar sus estrategias, tanto desde el punto de vista tecnológico como organizativo. Esto también significa no delegar la responsabilidad únicamente en proveedores o productos individuales. En lugar de confiar en soluciones de „caja negra“ supuestamente seguras, las empresas deben centrarse más en conceptos de seguridad transparentes, comprensibles e integrables. El código abierto puede desempeñar aquí un papel decisivo, como bloque de construcción flexible y potente dentro de una estrategia de seguridad holística.

Al directorio de socios: