L'engagement volontaire de l'économie ne suffit pas

Après les premières expériences très positives dans certains domaines, les entreprises se tournent de plus en plus vers une utilisation stratégique de l'IA, car elles la considèrent comme un facteur de compétitivité.

Est-ce que plus d'IA mène finalement à plus de succès ? C'est possible. Mais dans la course aux meilleures places - que ce soit dans l'économie ou la science - les participants devraient se montrer sceptiques face à un renforcement effréné de l'IA.

Car tout ce qui est techniquement possible n'est pas forcément souhaitable. Elon Musk, par exemple, voit dans l'IA "la plus grande menace pour la survie de l'humanité", et le physicien Stephen Hawking était déjà d'avis en 2014 que les humains finiraient par être "supplantés".

L'utilisation de l'IA a une portée particulière lorsque des erreurs se produisent. La reconnaissance faciale d'Amazon, par exemple, a récemment confondu 28 membres du Congrès américain avec des détenus.

Si l'on applique ce taux d'erreur de cinq pour cent aux ambitions du ministère américain de la Défense, les doutes éthiques deviennent rapidement palpables : Le Pentagone veut doter les drones et autres armes d'une IA afin qu'ils puissent identifier eux-mêmes leurs cibles et "prendre leurs propres décisions".

De nombreux chercheurs en IA considèrent ces développements avec dégoût ; des milliers d'entre eux ont signé un engagement volontaire de ne pas faire de recherche sur les systèmes d'armes autonomes. Mais qu'en pensent les milliers d'autres ?

Le danger vient aussi d'un tout autre domaine : il est désormais possible de produire des images et des vidéos fausses à s'y méprendre avec un minimum d'effort, même avec des applications gratuites. On n'ose pas imaginer ce qui se passerait à l'ère des fake news si un faux politicien déclarait la guerre à un pays dans une fausse vidéo.

Même le profilage des utilisateurs des médias sociaux ne constitue plus un obstacle pour l'IA depuis longtemps. Associée à la puissance de calcul actuelle, cette technologie est capable d'analyser des quantités gigantesques de données et de reconnaître des modèles.

On n'oubliera pas, par exemple, l'exploitation non autorisée des données de nombreux profils Facebook par Cambridge Analytica dans le but d'influencer les élections américaines de 2016. Il existe de nombreux autres exemples qui soulèvent des questions éthiques.

Même les entreprises informatiques, pionnières en matière d'IA, commencent à se poser des questions. Microsoft, par exemple, considère la reconnaissance faciale basée sur l'IA comme une menace pour la vie privée et la liberté d'expression.

L'engagement volontaire de l'industrie et de la recherche est-il donc le bon moyen de fixer des limites éthiques ? L'histoire économique l'a montré : malheureusement non. Que ce soit dans le cadre du scandale du diesel, de l'interdiction de fumer ou, tout récemment, de la standardisation des câbles de recharge pour smartphones, les entreprises ont toujours accordé plus d'importance aux avantages commerciaux potentiels qu'à l'éthique. Il n'en ira pas autrement avec l'IA.

Une réglementation légale est donc indispensable. La stratégie annoncée par le gouvernement fédéral en matière d'intelligence artificielle arrive certes tardivement, mais elle souligne à de nombreux endroits la nécessité de normes éthiques. L'UE a également annoncé récemment un document de mesures sur l'IA, dans lequel l'éthique est au premier plan. On ne peut que s'en féliciter.

La question reste de savoir si d'autres gouvernements ont également intérêt à s'autolimiter dans ce sens. Les États-Unis ont certes déjà présenté en 2016 un plan stratégique pour l'IA et y soulignent avec force le thème de l'"IA éthique".

Il reste toutefois à savoir comment ils vont par exemple adapter leurs plans de défense agressifs annoncés à cette situation. La Chine, un pays qui n'est pas particulièrement frileux en matière de vie privée, comme en témoigne la récente mesure de reconnaissance faciale omniprésente, aura tendance à moins mettre l'accent sur les aspects éthiques.

Depuis de nombreuses années, des voix s'élèvent pour réclamer un nouvel ordre économique. Selon la grande majorité des Allemands, il devrait remplacer la croissance à tout prix au profit d'une plus grande justice et de la protection de l'environnement. Au vu des dangers potentiels de l'IA, l'éthique devrait également figurer en tête de l'agenda.