Faire avancer le Machine Learning avec DevOps

Permettre l'échec est une condition préalable à l'innovation. Celui qui n'est pas prêt à échouer n'apportera rien de vraiment nouveau. En tant que directeur technique allemand d'une société de services informatiques japonaise dotée d'une forte culture de l'innovation, j'en suis profondément convaincu. Mais si seulement un bon dixième des projets de Machine Learning sont mis en œuvre, c'est que quelque chose ne va pas. Car le Machine Learning est l'une des applications centrales de l'intelligence artificielle (IA) et la base de nombreuses technologies d'avenir comme la conduite autonome, les villes intelligentes et l'Internet industriel des objets (IIoT). Pour faire progresser plus rapidement le ML et les autres technologies d'IA, nous avons donc besoin d'une nouvelle forme de collaboration entre le développement et l'exploitation de solutions selon les principes DevOps, en bref : ML-Ops.

Évaluation continue

Pourquoi les ML-Ops ? Parce que l'IA est différente. Dans l'informatique classique, le code détermine le comportement du système. La fonctionnalité du système peut être vérifiée et évaluée étape par étape. Dans les applications d'intelligence artificielle, en revanche, ce sont les données qui déterminent le comportement du système. La difficulté réside dans le fait que les données d'origine sont mises à jour au cours du Machine Learning et d'autres processus d'IA. C'est pourquoi nous devons surveiller en permanence le comportement des modèles ML.

Ce processus correspond au principe de l'intégration continue (CI) dans le développement classique de logiciels. Les experts en ML-Ops parlent ici d'évaluation continue. Outre le savoir-faire technologique pour l'automatisation des processus d'évaluation, cela implique une étroite collaboration permanente avec les data-scientists de l'entreprise.

Les ML-Ops en pratique

Un cas d'utilisation typique pour ce type de ML-Ops est l'amélioration de la qualité. Une entreprise automobile japonaise a par exemple lancé un projet dans le cadre duquel l'apprentissage automatique doit aider à améliorer la qualité des véhicules sur la base de lettres de réclamation rédigées en langage naturel. Le ML est utilisé pour analyser la signification des données de réclamation dans les textes. Un défi particulier consistait à maintenir la précision des analyses même lors du lancement de nouveaux produits.

Nous avons créé ici un moyen simple et rapide de mettre à jour de nouveaux modèles de classification basés sur le "bag-of-words" et le "gradient boosting". Conséquence immédiate : dans les domaines du traitement des données, de la conception et du déploiement, le temps de traitement a diminué de six semaines au total. La rapidité de l'examen des réclamations, entre autres, a eu un effet positif. En même temps, le modèle est nettement plus facile et plus économique à entretenir - tout au long de son cycle de vie.

De la même manière, dans le cadre d'un projet d'IA d'une compagnie d'assurance internationale, le développement et l'exploitation de la solution ont été simplifiés et automatisés à tel point qu'aucun soutien opérationnel de l'informatique n'est nécessaire pour l'exploitation et l'évaluation continue. Les data scientists peuvent se concentrer pleinement sur leurs expériences sur les données, sans être limités par l'infrastructure informatique.

Fiabilité de l'IA

Troisième exemple : Dans une banque italienne, il s'agissait de détecter des comportements anormaux dans des volumes gigantesques de transactions financières. Les experts y voient une utilité centrale de l'intelligence artificielle pour la banque numérique. Mais les quantités de données produites rendent impossible l'entraînement manuel des modèles d'IA. L'utilisation de ML-Ops a permis d'établir un système automatique pour l'entraînement des modèles de données. Et comme il permet de reproduire chaque modèle d'analyse généré et chaque prédiction basée sur ce modèle, il répond également à l'exigence la plus importante en matière d'IA, et pas seulement dans le secteur financier : la fiabilité.

PDF en anglais