Agentic AI, el próximo punto de inflexión en la inteligencia artificial

La IA agente se refiere a una evolución en los sistemas de inteligencia artificial, que ahora son capaces de ir más allá de la simple ejecución de instrucciones aisladas. En lugar de limitarse a responder a una consulta o indicación, estos sistemas pueden perseguir un objetivo de manera autónoma.

Al enfrentarse a un objetivo complejo, desarrollan una estrategia, planifican una secuencia de tareas y las ejecutan de forma coherente. Además, tienen la capacidad de utilizar herramientas e interactuar con su entorno.

Las áreas de aplicación son numerosas y variadas, e incluyen:

• Asistentes capaces de gestionar un proyecto de principio a fin (reservas, organización, seguimiento, etc.).

• Agentes de ciberseguridad que detectan y corrigen anomalías.

• Agentes financieros autónomos.

• Sistemas avanzados de automatización para empresas.

• Robots o drones independientes en ciertas tareas.

Aunque la IA agente se basa actualmente en gran medida en modelos generativos (especialmente en LLMs), se diferencia de ellos por ser más general y orientada a la acción, yendo más allá de la simple generación de texto, imágenes o código.

La IA agente representa menos un avance científico fundamental que un avance funcional y sistémico. 

La IA agente permite a los usuarios solicitar la realización de tareas de "alto nivel" sin tener que especificar pasos o subpasos más o menos complejos. Por lo tanto, es una nueva etapa funcional en la IA.

Por ejemplo, en lugar de pedir "escribe un correo electrónico", el usuario ahora puede decir "gestiona mis correos electrónicos esta semana". 

Es esta noción de autonomía en la acción (y no solo el acceso a la información) lo que caracteriza a la IA agente.

En el ámbito científico, ya existen herramientas muy recientes que buscan llevar a cabo tareas altamente complejas desde el inicio hasta el final: seguimiento de investigaciones, programación, formateo de resultados y redacción en formato de conferencia. 

En este sentido, un avance significativo se logró el pasado mes de abril con la herramienta AI Scientist v2.

Las consecuencias para el mundo científico ya son evidentes con la proliferación de publicaciones automatizadas, aunque aún son inciertas en cuanto a los aspectos más centrales de la investigación: el aumento real del conocimiento científico.

La IA agente está transformando la ética de la investigación al introducir sistemas capaces de actuar de manera autónoma. Esto plantea grandes desafíos en términos de responsabilidad, transparencia y consentimiento, así como dificultades en cuanto a trazabilidad y reproducibilidad científica.

Al incorporar valores y objetivos implícitos, estos agentes pueden amplificar sesgos y malos usos. Por lo tanto, exige una revisión de la gobernanza ética para mantener un control humano sobre la acción científica delegada.

El impacto social es potencialmente significativo y probablemente ya está en marcha, ya que muchas tareas profesionales ahora pueden ser realizadas por la IA. 

Un ejemplo claro es la disminución en la contratación de programadores junior. Sin embargo, la falta de perspectiva aún no permite determinar si se trata de reemplazar directamente ciertos empleos o de transformar las profesiones con la aparición de perfiles preparados para trabajar con IA.

Más allá del empleo, los desafíos que plantea la IA agente son idénticos a los de la IA generativa, pero ampliados debido a la mayor autonomía de la IA agente: protección de la privacidad, sesgos y equidad, impacto ambiental, ética, seguridad de los sistemas, entre otros.

Numerosos equipos de Inria están involucrados en investigaciones sobre IA basada en agentes y sus aplicaciones, ya que abarca una amplia gama de temas.

Las áreas de investigación relacionadas incluyen: teoría de juegos, sistemas distribuidos, LLMs (ya sea como agentes o como orquestadores), bases de datos y sus vínculos con agentes de IA, estandarización de la comunicación, interacciones entre robots y/o humanos (en particular, la dimensión psicológica y sociológica de las organizaciones, así como aspectos dinámicos), eficiencia energética, evaluación y seguridad de los agentes de IA. 

Los campos de aplicación también son muy variados, e incluyen vehículos autónomos, desarrollo de software, salud, industria 4.0/5.0. 

Este artículo fue publicado originalmente en inria.fr y está disponible en su versión original en francés a través de este enlace.