Inteligencia artificial: los datos de entrenamiento deben ser buenos, justos y equilibrados

Aspectos a tener en cuenta con la IA

Cuando se utiliza la IA, ¿cómo puede garantizarse no solo la calidad de los datos, sino también el cumplimiento de los requisitos éticos y legales? Un curso gratuito en línea que comienza el 19 de abril en openHPI, la plataforma de educación abierta del Instituto Hasso Plattner, presenta estas cuestiones del aprendizaje automático.

Está dirigido por el catedrático del IPH Felix Naumann y otros tres expertos: Jessica Heesen, especialista en ética de los medios de comunicación de la Universidad de Tubinga, Frauke Rostalski, catedrática de Derecho Penal de la Universidad de Colonia, y Sebastian Hallensleben, experto en normas de la Asociación de Tecnologías Eléctricas, Electrónicas y de la Información. Los participantes aprenderán cómo los expertos en informática, derecho, ética y normalización ven las cuestiones relacionadas con las aplicaciones de macrodatos desde diferentes perspectivas. 

“Mostramos a los recién llegados al tema a qué aspectos deben prestar atención en la recogida de datos y Procesamiento al que hay que prestar atención para utilizar datos de entrenamiento buenos, justos y equilibrados y desarrollar así también sistemas de IA justos.“

Felix Naumann,
Profesor de Sistemas de Información,
Instituto Hasso Plattner, Universidad de Potsdam

"Mostramos a los recién llegados al tema a qué aspectos deben prestar atención en la recopilación y el procesamiento de datos para utilizar datos de entrenamiento buenos, justos y equilibrados y desarrollar así también sistemas de IA justos", afirma Felix Naumann. Según él, requisitos como la no discriminación, la consideración de la diversidad o la protección de datos de los empleados repercuten en los datos y procesos con los que se entrenaron previamente los modelos de IA. "A la inversa, los datos de entrenamiento incompletos, erróneos, inapropiados o sesgados conducen a modelos inseguros", advierte Naumann.

Así, los resultados podrían conducir en última instancia a decisiones erróneas. Junto con los demás instructores del curso, el informático quiere demostrar que los requisitos legales para los datos de prueba, validación y entrenamiento en el aprendizaje automático, así como su aplicación en normas y estándares, siguen "en gran medida sin resolverse". Los interesados pueden inscribirse en el curso gratuito de dos semanas "AI and Data Quality - Perspectives from Data Science, Ethics, Standardisation and Law" en la web oficial: open.hpi.de