Entrevista con Dympna O'Sullivan: política de IA y diversidad de género en TI

Dympna O'Sullivan es directora académica del centro de investigación sobre futuros digitales de la Universidad Tecnológica de Dublín. Antes de incorporarse a la TU de Dublín, trabajó como profesora de informática en la Universidad de Aston en Birmingham y como profesora titular de informática de la Salud en la Universidad de la City de Londres. Tras completar su doctorado, trabajó en el grupo de investigación Mobile Emergency Triage de la Universidad de Ottawa, en Canada. Es licenciada y doctora en Informática por el University College de Dublín. 

Su investigación se centra en la informática social aplicada e incluye la ética computacional. Estudia el impacto social de las nuevas tecnologías, incluyendo la inteligencia artificial, la toma de decisiones algorítmicas y las implicaciones de la IA para la privacidad, la equidad, la transparencia y la imparcialidad. Desarrolla métodos de IA explicables para mejorar la comprensión de los sistemas de IA por parte de los usuarios finales. Su investigación se basa en la gobernanza y la legislación para garantizar una IA fiable.

Dympna O'Sullivan, directora de investigación de la Universidad Técnica de Dublín

¿Qué opina de la ley europea sobre la IA? Ha dicho que está muy a favor de la regulación. ¿Podría explicar su posición en más detalle?

Claro que sí. En instituciones como la Universidad Técnica de Dublín apoyamos la legislación de la UE sobre IA y estamos a favor de una regulación más sólida de la IA en general. De hecho, fuimos una de las primeras universidades en incluir contenidos sobre ética de la IA en nuestros planes de estudios. Cuando hablamos de ética de la IA, nos referimos a cuestiones como la parcialidad, la discriminación y la responsabilidad. Aunque hay ciertas prácticas de desarrollo de software que pueden ayudar a mitigar estos riesgos, la regulación desempeña un papel fundamental en su aplicación. Creemos en un enfoque global de la educación que se centre en cómo el software desarrollado repercute en los usuarios finales. Esta perspectiva más amplia subraya la importancia de la regulación para mitigar los riesgos asociados al impacto de la IA en los usuarios finales. Siempre existe el argumento de que la regulación ahoga la innovación, pero nosotros no creemos eso. En muchos ámbitos de alto riesgo, como el ámbito farmacéutico, hay mucha innovación a pesar de la regulación estricta.

Existe la percepción de que normas como el Reglamento General de Protección de Datos están obstaculizando la innovación. En su opinión, ¿cómo pueden las empresas superar este reto y cumplir al mismo tiempo con el RGPD?

El RGPD y la Ley de IA de la UE están interrelacionados y la UE ha reconocido la necesidad de preparar mejor a las empresas para el cumplimiento del RGPD. En virtud de la Ley de IA de la UE, los distintos Estados miembros crearán organizaciones, conocidas como "sandboxes" (cajas de arena), para ayudar a las empresas a prepararse para el cumplimiento. Estas "cajas de arena" reunirán a políticos responsables, funcionarios públicos, académicos e industriales para identificar las aplicaciones de alto riesgo, determinar los requisitos de documentación y facilitar el cumplimiento. Este apoyo es especialmente importante para las empresas pequeñas y medianas (PYME), que no disponen de los mismos recursos de las empresas grandes para gestionar normas complejas eficazmente. Las PYME suelen asumir esta carga adicional cuando intentan cumplir la legislación. Cuando los gobiernos introducen este tipo de legislación generalizada y de gran alcance, también deben proporcionar un apoyo activo para ayudar a las empresas a cumplirla.

¿Cómo ve la TU la IA generativa en el mundo académico?

La IA generativa es un tema importante en el mundo académico, con preocupaciones centradas en cuestiones como el plagio. En mi opinión, la situación requiere un enfoque equilibrado y matizado. Mientras que algunas instituciones han respondido volviendo a los exámenes tradicionales, este enfoque no es óptimo para el aprendizaje de los estudiantes, ya que entonces sólo tendrían una forma de evaluación. No se puede vencer a la herramienta y el uso de programas de detección del plagio no es más que un juego del gato y el ratón. Ya no se trata sólo de escribir ensayos. En su lugar, debemos ser más creativos y explorar métodos de evaluación que se adapten al panorama cambiante de la tecnología de IA. Se trata de trabajar con los estudiantes para intentar comprender y considerar qué tipos de trabajos de curso reflejan las realidades del siglo XXI. Un enfoque mejor es trabajar con los estudiantes para desarrollar nuevos modelos de evaluación que permitan comprender sus progresos.

De todos modos, siempre ha existido el plagio y siempre seguirá existiendo.

Exactamente. Esto es sólo una nueva herramienta para ello.

¿Sabe algo sobre las iniciativas de IA de Workday?

Definitivamente sé que están involucrados en la política de IA. Una de las razones por las que estamos muy contentos de trabajar con Workday es que son líderes en IA responsable y defienden activamente la regulación de la IA. Como empresa global, están especialmente interesados en aprender más sobre la armonización de la legislación sobre IA. Por un lado, está el marco del NIST en Estados Unidos y, por otro, la legislación sobre IA de la UE; algunas partes se solapan, otras no. Pero si se quiere construir una IA fiable a gran escala, es necesaria la armonización de la legislación en todos los países. Creo que esto es muy importante para las empresas multinacionales. Workday también está muy interesada en incorporar la IA a sus productos y en ampliar su plantilla. Una de las cosas que estamos debatiendo es la creación de un centro de excelencia de IA en la Universidad Técnica de Dublín. Queremos formarlo y dirigirlo conjuntamente con Workday y debatir cómo la IA puede complementar las capacidades humanas. Tenemos que empezar a cuantificarlo. ¿Qué significa que un sistema de IA complemente las capacidades humanas? ¿Es una herramienta, un proceso o algo más? Si la gente tiene más tiempo y es más creativa, ¿qué puede hacer con él? Workday está muy interesado en este tema y estamos debatiendo el aumento de las capacidades humanas. ¿Cómo lo cuantificamos en 3D? ¿Cómo medimos el ajuste en la relación entre los humanos y la IA?

La Universidad Técnica de Dublín cuenta con el programa TrailblazHER, que promueve la diversidad en la ingeniería. ¿Puede contarnos sobre esta iniciativa?

Por supuesto. Respecto a nuestros esfuerzos por atraer a más mujeres a la ingeniería en la facultad de Informática, llevamos bastante tiempo trabajando en esta cuestión. Antes de hablar de algunas de nuestras iniciativas, me gustaría hablar de un programa que iniciamos hace unos años. Recibimos una importante financiación de la Autoridad de Educación Superior irlandesa para abordar las desigualdades de género en la informática. El objetivo principal era encontrar formas de abordar este problema. Nuestro primer paso fue comprometernos con nuestras alumnas. Queríamos entender por qué habían elegido estudiar informática y por qué algunas de sus compañeras no lo habían hecho. Un tema recurrente fue el miedo a las matemáticas. Esto deja claro que tenemos que animar a más mujeres a elegir asignaturas de matemáticas.

¿Podría explicar en más detalle?

Una anécdota que llama la atención es la de una estudiante que dijo sentirse abrumada el primer día en un curso de informática en el que era la única chica. A pesar de su aprensión inicial, siguió adelante. Esta historia se me quedó grabada. Me dio miedo pensar en cuántas personas habrían huido en esa situación. Historias como ésta ponen de relieve lo importante que es crear una red de apoyo para las mujeres en la tecnología. Para lograrlo, hemos introducido varios programas destinados a reunir a las estudiantes, sobre todo en los campos de la informática y la ingeniería. Estos programas incluyen iniciativas de tutoría y actividades de divulgación en las escuelas para disipar la idea errónea de que trabajar en tecnología consiste únicamente en programar.

Nuestro programa TrailblazHER se centra en tres componentes clave: asistencia a la escuela, tutoría universitaria y apoyo a las mujeres empresarias. Es crucial dar siempre prioridad a los esfuerzos de diversidad e inclusión y reconocer que se trata de un proceso continuo. Unos estudiantes y una mano de obra diversos no sólo son más productivos, sino que también contribuyen a enriquecer el aprendizaje y el entorno laboral. También integramos la concienciación sobre la diversidad en nuestro plan de estudios. Por ejemplo, los alumnos de tercer curso trabajan en proyectos con un hospital local que atiende a personas con discapacidad intelectual. Esta experiencia práctica fomenta la empatía y anima a los estudiantes a tener en cuenta diferentes perspectivas a la hora de desarrollar tecnologías.

Muchas gracias por la entrevista.

workday.com

tudublin.es