Quelle est l'utilité réelle des systèmes d'IA ?

C'est l'homme qui décide si les systèmes d'IA font du bien ou du mal, à condition qu'il tienne compte de quelques règles simples. Les avis divergent déjà sur la question de savoir ce qu'est réellement l'intelligence artificielle.

En effet, la définition de l'intelligence naturelle n'est même pas encore définitivement établie. Convenons qu'il s'agit littéralement de comprendre, et que la compréhension est précédée d'un processus d'apprentissage.

L'IA doit automatiser "intelligemment" les processus numériques. Les systèmes informatiques sont bien sûr utilisés depuis très longtemps pour automatiser des processus. Il y a par exemple le bon vieux travail Cron.

Une action est exécutée à intervalles réguliers, par exemple la corbeille à papier est vidée toutes les cinq minutes. Les ordinateurs effectuent ce travail de manière extrêmement fiable, ils ne se fatiguent pas pendant le travail et ne trouvent pas non plus ennuyeuses les répétitions interminables.

Toutefois, ils n'auraient jamais eu eux-mêmes l'idée de mettre les déchets sur le bord de la route pour faire de la place à de nouvelles données. C'est l'homme qui en a eu l'idée. Il en a compris la nécessité et a écrit un algorithme.

En effet, derrière la plupart des actions informatiques automatiques se cachent encore aujourd'hui des hommes et non des systèmes intelligents. Et ce pour de bonnes raisons. Car ce que l'on oublie souvent avec l'IA, c'est que c'est l'homme qui a les choses en main. Il devrait réfléchir à ce qu'un système doit apprendre et surtout de qui, c'est-à-dire quel est l'objectif de tout cela.

Qui influence qui ?

En 2016, Microsoft a lancé une expérience avec un robot de chat Twitter doté d'une intelligence artificielle. Au bout d'un certain temps, l'adolescent fictif nommé Tay a toutefois commencé à tweeter de manière de plus en plus raciste et misogyne. Il avait apparemment été délibérément influencé par un groupe d'utilisateurs de Twitter.

Après 24 heures, Microsoft a décidé de rendre le profil inaccessible au grand public et d'interrompre l'expérience. Microsoft n'avait certainement pas prévu que l'expérience serait influencée de manière ciblée, sinon l'entreprise aurait défini des règles au préalable.

Dans ce cas, il s'agissait de normes sociales, une question assez floue en comparaison avec la gestion d'un paysage informatique. Mais le bon fonctionnement d'un environnement informatique n'est pas non plus aussi simple qu'il n'y paraît, car il nécessite de définir des priorités :

• En cas de panne, quel système est redémarré en premier ?
• Et quelle est la première mise à jour implémentée ?

De telles décisions dépendent généralement de la situation et plus il y a de composantes à pondérer, plus cela devient compliqué.

Analyse d'impact

La vie quotidienne montre, à travers de nombreux exemples allant des bonus des collaborateurs aux programmes de soutien de l'Etat, que des systèmes d'objectifs trop simples peuvent conduire à des dérives.

Au début, ils échouent à évaluer les conséquences dans un système complexe, et plus tard, il leur manque le réajustement. C'est précisément là que l'IA peut aider. Les réseaux neuronaux sont capables d'étudier en un clin d'œil les interactions des différents composants et de contribuer ainsi à créer et à maintenir un état optimal du système.

C'est à l'homme de décider ce qui est exactement "optimal". Vous vous souvenez peut-être encore de HAL 9000 dans le film "2001 : l'Odyssée de l'espace". Il est possible que cet ordinateur géant aux réactions de plus en plus névrotiques, qui tue des astronautes, ait contribué à ce que l'IA soit encore regardée avec beaucoup de méfiance par beaucoup.

Au lieu de soutenir l'humain, il voulait se protéger de sa déconnexion et mener la mission à son terme. Pour cela, il pouvait même mentir délibérément. Il s'agit clairement d'une conséquence d'objectifs mal hiérarchisés, d'un manque d'évaluation des conséquences et d'un mauvais exemple - comme pour Tay.

Ma conclusion est donc la suivante : l'IA peut nous aider à prendre de bien meilleures décisions dans de nombreux domaines, notamment lorsque les choses se compliquent. Car c'est souvent dans ces situations que les humains font exactement ce qu'il ne faut pas faire.

Mais pour cela, il faut d'abord réfléchir à ce que nous voulons réaliser à l'aide de l'IA et à qui le système doit apprendre.