Entretien avec Dympna O'Sullivan : politique de l'IA et diversité des genres dans l'informatique

Dympna O'Sullivan est la directrice académique du Digital Futures Research Hub à la TU (Université technique) de Dublin. Avant de rejoindre TU Dublin, elle a travaillé comme enseignante en informatique à l'université Aston de Birmingham et comme maître de conférences en informatique de la santé à la City University de Londres. Après son doctorat, elle a travaillé dans le groupe de recherche Mobile Emergency Triage à l'université d'Ottawa. Elle est titulaire d'un BSc et d'un PhD en informatique de l'University College Dublin. 

Ses recherches se situent dans le domaine de l'informatique sociale appliquée et comprennent également l'éthique informatique. Elle étudie l'impact social des nouvelles technologies, y compris l'intelligence artificielle, la prise de décision algorithmique et l'impact associé de l'IA sur la vie privée, l'équité, la transparence et la partialité. Elle développe des méthodes d'IA explicable visant à améliorer la compréhension des systèmes d'IA par les utilisateurs finaux. Ses recherches sont étayées par la gouvernance et la législation afin de garantir une IA digne de confiance.

Dympna O'Sullivan, directrice du département de recherche de TU Dublin

Que pensez-vous de l'EU-AI-Act ? Vous avez mentionné que vous étiez très favorable à une réglementation. Pourriez-vous préciser ce point ?

Bien sûr, oui. Dans des institutions comme la TU Dublin, nous soutenons fortement la loi européenne sur l'IA et nous nous engageons pour une réglementation plus robuste de l'IA en général. En fait, nous avons été l'une des premières universités à inclure un contenu sur l'éthique de l'IA dans nos programmes d'études. Lorsque nous parlons d'éthique de l'IA, nous abordons des sujets tels que l'équité, les préjugés, la discrimination et la responsabilité. Bien qu'il existe certaines pratiques de développement logiciel qui peuvent contribuer à réduire ces risques, la réglementation joue un rôle crucial dans leur mise en œuvre. Nous croyons en une approche éducative globale qui se concentre sur la manière dont les logiciels développés affectent les utilisateurs finaux. Cette perspective plus large souligne l'importance de la réglementation pour atténuer les risques liés à l'impact de l'IA sur les utilisateurs finaux. On entend souvent l'argument selon lequel la réglementation freine l'innovation, mais nous ne le pensons pas. Dans de nombreux domaines à haut risque comme la pharmacie, les innovations sont nombreuses malgré la réglementation.

On a l'impression que des réglementations telles que le RGPD entravent l'innovation. Comment pensez-vous que les entreprises peuvent relever ce défi tout en se conformant au RGPD ?

Le RGPD et la loi sur l'information de l'UE sont interdépendants et l'UE a reconnu la nécessité de mieux préparer les entreprises à la conformité au RGPD. Dans le cadre de la loi EU-II, les différents Etats membres mettront en place des organisations, appelées Sandboxes, afin d'aider les entreprises à se préparer à la conformité. Ces bacs à sable rassemblent des décideurs politiques, des fonctionnaires gouvernementaux, des universitaires et l'industrie afin d'identifier les applications à risque, de déterminer les exigences en matière de documentation et de faciliter la mise en conformité. Ce soutien est particulièrement important pour les petites et moyennes entreprises (PME) qui ne disposent pas des ressources des grandes entreprises pour gérer efficacement les réglementations complexes. Les PME assument souvent cette charge supplémentaire lorsqu'elles tentent de se conformer à la législation. Lorsque les gouvernements introduisent ce type de législation étendue et largement diffusée, ils doivent également fournir un soutien actif pour aider les entreprises à se conformer.

Comment la TU voit-elle l'IA générative dans le domaine académique ?

L'IA générative est un sujet brûlant dans le monde universitaire, les inquiétudes portant principalement sur des questions telles que le plagiat. Selon moi, la situation exige une approche équilibrée et nuancée. Certains établissements ont certes réagi en revenant aux examens traditionnels, mais cette approche n'est pas optimale pour l'apprentissage des étudiants, car ils n'auraient alors qu'une seule forme d'évaluation. On ne peut pas battre l'outil et l'utilisation de programmes de détection du plagiat n'est qu'un jeu du chat et de la souris. Il ne s'agit plus seulement d'écrire des dissertations. Au lieu de cela, nous devrions être plus créatifs et explorer des méthodes d'évaluation qui s'adaptent au paysage évolutif de la technologie de l'IA. Il s'agit de collaborer avec les étudiants et d'essayer de comprendre et de prendre en compte les types de travaux de cours qui reflètent les réalités du 21e siècle. Une meilleure approche consiste à développer de nouveaux modèles d'évaluation avec les étudiants afin de comprendre leurs progrès.

De toute façon, le plagiat a toujours existé et continuera d'exister.

Exactement, exactement. Il s'agit simplement d'un nouvel outil qui permet aux gens de le faire.

Savez-vous quelque chose sur les initiatives de Workday en matière d'IA ?

Je sais en tout cas qu'ils sont impliqués dans la politique de l'IA. L'une des raisons pour lesquelles nous aimons beaucoup travailler avec Workday est qu'ils sont à la pointe de l'IA responsable et qu'ils s'engagent activement dans la réglementation de l'IA. En tant qu'entreprise mondiale, ils sont particulièrement intéressés à en savoir plus sur l'harmonisation de la législation en matière d'IA. Il y a le cadre du NIST aux États-Unis d'une part et la loi sur l'IA de l'UE d'autre part ; certaines parties se chevauchent, d'autres non. Mais si vous voulez construire une IA de confiance à grande échelle, vous avez besoin d'une harmonisation de la législation dans tous les pays. Je pense que c'est vraiment important pour les multinationales. Workday est également très intéressé par l'intégration de l'IA dans ses produits et par l'augmentation de ses effectifs. L'une des choses dont nous discutons est un centre d'excellence IA à l'université technique de Dublin. Nous voulons le former et le faire fonctionner en collaboration avec Workday et discuter de la manière dont l'IA peut compléter les compétences humaines. Nous devons commencer à quantifier cela. Qu'est-ce que cela signifie pour un système d'IA de compléter les capacités humaines ? Est-ce un outil, un processus ou autre chose ? Si les gens ont plus de temps et sont plus créatifs, que vont-ils en faire ? Workday s'intéresse beaucoup à ce sujet et nous discutons de l'extension des capacités humaines. Comment pouvons-nous quantifier cela en 3D ? Comment mesurons-nous l'adéquation dans la relation entre l'homme et l'IA ?

L'université technique de Dublin a un programme TrailblazHER qui promeut la diversité dans l'ingénierie. Pouvez-vous donner quelques aperçus de cette initiative ?

Bien sûr ! Maintenant, en ce qui concerne nos efforts pour impliquer davantage de femmes dans la technologie à la faculté d'informatique, nous travaillons sur ce sujet depuis un certain temps déjà. Avant d'aborder certaines de nos initiatives, je voudrais d'abord parler d'un programme que nous avons lancé il y a quelques années. Nous avons reçu des fonds importants de la part de l'autorité irlandaise de l'enseignement supérieur afin d'éliminer les inégalités entre les sexes dans le domaine de l'informatique. L'objectif principal était de trouver des moyens de résoudre ce problème. Notre première étape a consisté à entrer en contact avec nos étudiantes. Nous voulions comprendre pourquoi elles avaient choisi d'étudier l'informatique et pourquoi certaines de leurs camarades ne l'avaient pas fait. L'un des thèmes récurrents que nous avons rencontrés était la peur des mathématiques. Cela montre clairement que nous devons encourager davantage de femmes à choisir les mathématiques.

Pourriez-vous expliquer cela plus en détail ?

Une anecdote qui ressort particulièrement est celle d'une élève qui a raconté qu'elle s'était sentie dépassée lors de son premier jour dans un cours d'informatique où elle était la seule fille. Malgré ses craintes initiales, elle a persévéré. Cette histoire m'est restée en travers de la gorge. J'ai trouvé cela effrayant quand j'ai pensé au nombre de personnes qui se seraient effectivement enfuies dans cette situation. Des histoires comme celle-ci soulignent l'importance de créer un réseau de soutien pour les femmes dans le domaine de la technologie. Pour y parvenir, nous avons mis en place différents programmes visant à rassembler les étudiantes, en particulier dans les domaines de l'informatique et de l'ingénierie. Ces programmes comprennent des initiatives de mentorat et des activités de sensibilisation dans les écoles, qui visent à dissiper le malentendu selon lequel travailler dans le domaine de l'ingénierie consiste uniquement à programmer.

Notre programme TrailblazHER se concentre sur trois éléments clés : la scolarisation, le mentorat universitaire et le soutien aux femmes entrepreneurs. Il est essentiel de toujours donner la priorité aux efforts de diversité et d'inclusion et de reconnaître qu'il s'agit d'un processus continu. Des étudiants et une main-d'œuvre diversifiés sont non seulement plus productifs, mais contribuent également à un environnement d'apprentissage et de travail plus riche. De plus, nous intégrons la sensibilisation à la diversité dans notre programme d'études. Par exemple, les étudiants de troisième année travaillent sur des projets avec un hôpital local qui s'occupe de personnes souffrant de handicaps mentaux. Cette expérience pratique favorise l'empathie et encourage les étudiants à prendre en compte différentes perspectives lors du développement de technologies.

Merci beaucoup pour cette interview !

workday.com

tudublin.ie