La deconstrucción de un agente de IA

La sociedad moderna se caracteriza por la división del trabajo e incluso la atomización. Este modelo económico ha sido un catalizador para generar prosperidad. La mayoría de las personas están acostumbradas a trabajar con dispositivos diseñados para ser utilizados de una manera específica. Esto no supone un problema en la gran mayoría de los casos.

En principio, sé cómo funciona un coche y puedo ir de A a B de forma segura. Si algo se rompe, hay expertos que conocen mi coche al dedillo y pueden repararlo. Hay expertos, artesanos y especialistas para la mayoría de los artículos cotidianos, tanto en el ámbito privado como en el profesional.

Al desconstruir un agente de IA basado en el «conocimiento» de un modelo de lenguaje grande (LLM), descubrimos que el comportamiento del agente no es fácil de documentar ni de comprender, y que no se puede replicar. ¡Esto no tiene por qué ser una desventaja! Los fantásticos resultados de la IA se basan en gran medida en estadísticas, que a su vez pueden ser inequívocas en esencia, pero no siempre se pueden replicar debido a la cantidad de datos y situaciones que se tienen en cuenta.

Llevar al extremo la deconstrucción de un agente de IA podría dar lugar a que transfiriera los salarios de los empleados a final de mes, o no, y posiblemente le hiciera alucinar sobre por qué no hay dinero esta vez. Se trata de un ejemplo muy teórico, pero existen numerosos informes sobre descarrilamientos dramáticos de los sistemas de IA. El reto, como dirían los matemáticos y los informáticos, reside en la singularidad. El reto reside en la naturaleza misma de la IA. Mediante el aprendizaje por refuerzo, una IA de alta calidad puede convertirse en el mejor jugador de ajedrez o de Go, ya que cada partida termina de forma inequívoca.

La máquina ha ganado o ha perdido. Si la máquina juega contra sí misma millones de veces, aprende rápidamente todos los trucos y se vuelve mejor que cualquier humano. Por supuesto, el aprendizaje por refuerzo no funciona con poemas, imágenes o presentaciones de PowerPoint. En este caso, es el gusto del espectador el que dicta si el resultado es satisfactorio.

SAP y muchas otras empresas de TI quieren ahora utilizar LLM y agentes de IA en el entorno ERP. Para evitar grandes desastres, el sistema se basará en reglas. Esto recuerda a la automatización robótica de procesos (RPA), en la que se diseñaron robots de software (bots) para automatizar tareas repetitivas y basadas en reglas que, de otro modo, realizarían los seres humanos. Sin embargo, los agentes de IA tendrán más libertad y autonomía gracias a la «inteligencia» de los LLM. ¿Puede funcionar esto?

Basándose en las conclusiones de un LLM, un agente de IA podría llegar a la conclusión de que el modelo de negocio actual es ineficiente y perjudicial para el medio ambiente. En el mejor de los casos, el agente de IA se negaría a trabajar. En el peor, borraría la base de datos ERP.

El proveedor de plataformas Boomi ha reconocido este riesgo y no sólo se está centrando en la automatización a través de agentes de IA, sino también en la gobernanza de los agentes de IA. Los futuros LLM y agentes de IA para un ERP necesitarán una instancia de control determinista. ¿Una contradicción? El panorama de la IA está sólo al principio de un desarrollo revolucionario.

SAP parece ignorar la mayoría de estos peligros y preocupaciones. SAP solo aborda brevemente el tema del desarrollo heterogéneo de la IA y sus numerosos retos y contradicciones. En el evento SAP Connect celebrado en Las Vegas, el miembro del consejo ejecutivo Muhammad Alam afirmó que los clientes de SAP necesitan algo más que un mosaico de diferentes aplicaciones de primera categoría. Al mismo tiempo, su declaración se puso en perspectiva a nivel técnico. Es probable que se produzca un mosaico con un sistema de IA de dos niveles compuesto por asistentes que controlan varios agentes de IA.

SAP está intensificando sus esfuerzos para desarrollar un S/4 compuesto (ERP componible) que se alinee cada vez más con una suite holística. El mosaico S/4 existente será orquestado por asistentes de IA y agentes de IA. Actualmente, no existe una clasificación crítica para el sistema del trabajo de los asistentes de IA y los agentes de IA en SAP.

SAP pretende transformar su mosaico ERP existente en un sistema de IA de dos niveles, compuesto por asistentes y agentes. Sin embargo, para prosperar en un entorno de mercado volátil, las empresas necesitan algo más que un mosaico de diferentes aplicaciones de primera categoría, según Muhammad Alam. Los recientes anuncios de SAP demuestran cómo la nueva Business Suite integra la inteligencia artificial, los datos y las aplicaciones. Nadie está abordando las referencias retrospectivas, el aprendizaje por refuerzo o la gobernanza.