¿Hasta qué punto son realmente útiles los sistemas de IA?

Que los sistemas de IA hagan el bien o el mal lo determinan los humanos, siempre que tengan en cuenta unas cuantas reglas sencillas. Las opiniones difieren incluso sobre la cuestión de qué es realmente la inteligencia artificial.

Porque aún no se ha aclarado de forma concluyente qué es la inteligencia natural. Convengamos en que se trata literalmente de comprender, y la comprensión va precedida de un proceso de aprendizaje.

Se supone que la IA automatiza los procesos digitales de forma "inteligente". Los sistemas informáticos se utilizan desde hace mucho tiempo para automatizar procesos. Por ejemplo, está el viejo cron job.

Una acción se lleva a cabo a determinados intervalos, por ejemplo, la papelera de reciclaje se vacía cada cinco minutos. Los ordenadores hacen este trabajo de forma extremadamente fiable, no se cansan mientras trabajan y tampoco les resultan tediosas las repeticiones interminables.

Sin embargo, nunca se les ocurriría poner la basura junto a la carretera para dejar sitio a nuevos datos. La idea la tuvo el hombre. Reconoció la necesidad y escribió un algoritmo.

De hecho, la mayoría de las acciones informáticas automáticas siguen siendo realizadas por personas y no por sistemas inteligentes. Hay buenas razones para ello. Porque lo que a menudo se olvida de la IA es que el ser humano está al mando. Debe plantearse qué se supone que debe aprender un sistema y, sobre todo, de quién, es decir, cuál es el objetivo de todo esto.

¿Quién influye en quién?

En 2016, Microsoft puso en marcha un experimento con un bot de chat de Twitter dotado de inteligencia artificial. Sin embargo, al cabo de un tiempo, la adolescente ficticia llamada Tay empezó a tuitear de forma cada vez más racista y misógina. Al parecer, había sido influenciado específicamente por un grupo de usuarios de Twitter.

Al cabo de 24 horas, Microsoft decidió hacer inaccesible el perfil al público en general y detener el experimento. Sin duda, Microsoft no había previsto que el experimento se viera influido deliberadamente, pues de lo contrario la empresa habría definido las reglas de antemano.

En este caso, se trataba de normas sociales, un asunto bastante esponjoso comparado con la gestión de un paisaje informático. Pero ni siquiera la funcionalidad de un paisaje informático es tan fácil de mantener como parece, porque exige establecer prioridades:

• ¿Qué sistema se reiniciará primero en caso de fallo?
• ¿Y qué actualización se aplicará primero?

Estas decisiones suelen depender de la situación y cuantos más componentes haya que ponderar, más complicado resultará.

Evaluación de impacto

La vida cotidiana demuestra en muchos ejemplos, desde las primas a los empleados hasta los programas de ayudas públicas, que los sistemas de objetivos demasiado simplistas pueden conducir a desarrollos indeseables.

Al principio, no evalúan las consecuencias en un sistema complejo, y después falta el reajuste. Aquí es precisamente donde la IA puede ayudar. Las redes neuronales pueden jugar con las interacciones de los componentes individuales a la velocidad del rayo y, de este modo, ayudar a crear y mantener un estado óptimo del sistema.

Lo que es exactamente "óptimo" lo deciden los humanos. Quizá recuerde a HAL 9000 en la película "2001: Una odisea del espacio". Es posible que este ordenador central, cada vez más neurótico y asesino de astronautas, haya provocado que muchos sigan mirando con recelo a la IA.

En lugar de apoyar al humano, quería protegerse para que no le cerraran la puerta y completar la misión. Para ello, podía incluso mentir deliberadamente. Claramente, una consecuencia de objetivos mal priorizados, falta de evaluación de impacto y aprendizaje del ejemplo equivocado, análogo al de Tay.

Mi conclusión es la siguiente: la IA puede ayudarnos a tomar decisiones mucho mejores en muchos ámbitos, sobre todo cuando las cosas se complican. Porque estas son las situaciones en las que la gente suele hacer exactamente lo incorrecto.

Sin embargo, un requisito previo para ello es que primero pensemos qué queremos conseguir con la ayuda de la IA y de quién debe aprender el sistema.