La sécurité doit être repensée à l'ère de l'IA

Le message central d'une keynote très remarquée le résume : le monde informatique se trouve dans un déséquilibre structurel. Alors que d'un côté, une industrie d'attaque de plusieurs milliards de dollars opère - avec des modèles commerciaux tels que „Attack as a Service“, „Hacking as a Service“ ou des vagues d'attaques automatisées -, de l'autre côté, on trouve souvent des structures de défense fragmentées et sous-financées. L'utilisation de l'IA a considérablement augmenté les risques, non seulement en raison des attaques basées sur l'IA, mais aussi de l'utilisation de l'IA. Dans le cas de l'empoisonnement des données, par exemple, les attaquants falsifient le modèle d'IA pendant la phase d'entraînement et introduisent des points faibles cachés ou des portes dérobées.

L'évasion adverse vise à tromper la logique d'un agent en apportant des modifications à peine perceptibles aux entrées d'un agent, afin que les données soient mal classées. L'injection d'invites et d'outils incite les agents à utiliser des outils autorisés pour effectuer des actions malveillantes non autorisées.

Approche intégrative des menaces

Cette évolution a des conséquences directes pour les entreprises. Les cyberattaques ne deviennent pas seulement plus fréquentes, mais aussi plus précises, plus évolutives et plus difficiles à détecter. Les mécanismes de sécurité classiques atteignent alors rapidement leurs limites. L'une des raisons en est que la sécurité informatique est encore „rattachée“ à de nombreux projets, c'est-à-dire qu'elle n'est prise en compte qu'à la fin. Cette approche n'est plus adaptée à la situation actuelle en matière de menaces. Il faut une approche intégrée, dans laquelle la sécurité fait partie intégrante de chaque décision d'architecture et de développement dès le début. Cela ne concerne pas seulement le développement de logiciels, par exemple des chaînes d'approvisionnement logicielles contrôlées, mais aussi et surtout le domaine des opérations. C'est justement là que l'on constate dans la pratique une dangereuse lacune : Alors que les prototypes et les preuves de concept sont souvent mis en œuvre rapidement, il manque des concepts de sécurité bien pensés lors du passage à l'utilisation productive. C'est particulièrement vrai dans l'environnement SAP. Traditionnellement, de nombreux systèmes SAP étaient considérés comme relativement isolés - une sorte de „château fort“ protégé par son isolement. Mais cette époque est révolue. Avec des stratégies telles que la transformation en nuage, les paysages hybrides et les intégrations côte à côte, ces systèmes s'ouvrent de plus en plus vers l'extérieur. Les interfaces avec des applications tierces, les API et les services en nuage créent de nouvelles dépendances - et donc de nouveaux vecteurs d'attaque.

L'open source dans le contexte de la sécurité

Dans ce contexte, l'utilisation de technologies open source dans le contexte de la sécurité prend de plus en plus d'importance. Leur utilité ne se limite pas aux environnements de développement - il existe également un large éventail de frameworks et d'outils établis pour l'exploitation. Red Hat OpenShift propose plus de 20 frameworks pour les domaines Control and Protect et Detect and Respond, qui couvrent l'ensemble du cycle de vie DevSecOps. Parmi eux, on trouve par exemple des solutions telles que „Application Configuration Analysis“, „Risk Profiling“ ou „Runtime Behavioral Analysis“ et „Auto-Suggest Network Policies“. Elles démontrent comment les mécanismes de sécurité modernes peuvent aujourd'hui soutenir les opérations en cours.

Les discussions menées lors des Journées technologiques le montrent clairement : la sécurité informatique n'est plus un sujet marginal, mais un facteur de réussite essentiel pour la transformation numérique. Les entreprises sont appelées à adapter leurs stratégies, tant sur le plan technologique qu'organisationnel. Cela implique également de ne pas déléguer la responsabilité uniquement à certains fournisseurs ou produits. Au lieu de faire confiance à des solutions „boîte noire“ prétendument sûres, les entreprises devraient miser davantage sur des concepts de sécurité transparents, compréhensibles et intégrables. L'open source peut jouer un rôle décisif à cet égard - et ce en tant que module flexible et performant au sein d'une stratégie de sécurité globale.

Vers l'inscription du partenaire :