Para 2027, la mitad de las empresas que utilizan IA generativa habrán lanzado una «IA agéntica», también conocida como agente de IA, según Deloitte.
El Foro Económico Mundial y Capgemini han publicado un nuevo documento técnico, Navigating the AI Frontier: A Primer on the Evolution and Impact of AI Agents, que analiza las capacidades e implicaciones de estos asistentes inteligentes.
Estas son las claves que debe conocer para aprovechar los beneficios de los agentes de IA y, al mismo tiempo, mitigar los riesgos.
En el panorama en rápida evolución de la inteligencia artificial, surge una nueva frontera que promete revolucionar la forma en que trabajamos e interactuamos con la tecnología.
Imagine que se toma un descanso del trabajo y conduce hacia su destino de vacaciones. El tiempo cambia, lo que reduce la temperatura ambiente y aumenta el volumen de tráfico.
El sistema de infoentretenimiento de su automóvil ya ha evaluado estos nuevos datos, por lo que sube la calefacción, le redirige por carreteras menos transitadas y le sugiere un lugar donde almorzar para esperar a que pase la tormenta.
Para 2027, Deloitte prevé que la mitad de las empresas que utilizan IA generativa habrán lanzado pilotos o pruebas de concepto de IA agéntica capaces de actuar como asistentes inteligentes, realizando tareas complejas con una supervisión humana mínima.
En el umbral de este salto tecnológico, es importante comprender qué son los agentes de IA, su posible impacto y cómo afrontar los riesgos asociados.
En colaboración con Capgemini, el Foro Económico Mundial ha publicado un nuevo documento técnico, Navigating the AI Frontier: A Primer on the Evolution and Impact of AI Agents, que analiza las capacidades e implicaciones de los agentes de IA, con el fin de ofrecer a las partes interesadas una mejor comprensión de cómo estos sistemas pueden impulsar avances significativos en todos los sectores.
¿Qué son los agentes de IA y cómo funcionan?
Los agentes de IA, o «IA agéntica», son sistemas autónomos que perciben su entorno y actúan sobre él para alcanzar objetivos. Muchas empresas tecnológicas están desarrollando agentes de IA y están preparados para transformar sectores y redefinir la productividad.
Microsoft, IBM, y otras han logrado avances significativos, mientras que OpenAI se dispone a lanzar en enero un agente de IA con el nombre en clave «Operator», que tendrá capacidad de acción para realizar tareas como programar y reservar viajes.
Cognition Software lanzó «Devin» en marzo de 2024, un ingeniero de software autónomo capaz de realizar tareas de programación complejas a partir de instrucciones en lenguaje natural.
Los inversores han reconocido el potencial de los agentes de IA, al invertir más de 2000 millones de dólares en start-ups centradas en aplicaciones empresariales en los últimos dos años. Esta afluencia de capital e innovación está impulsando avances rápidos en la tecnología.
Un agente de IA se compone, en esencia, de varios componentes principales:
La entrada del usuario o las instrucciones de la persona
El entorno en el que opera, que puede ser físico o digital
Sensores, a través de los cuales percibe su entorno
Un centro de control, que incluye algoritmos y modelos complejos
Percepciones: los datos de entrada que recibe sobre su entorno
Efectores: las herramientas que utiliza para actuar, que podrían ser brazos robóticos o comandos enviados a otros sistemas de software.
Acciones, que representan las alteraciones realizadas por los efectores.
El centro de control de los agentes de IA avanzados gestiona el flujo de información entre las entradas del usuario, la toma de decisiones y la planificación, la gestión de la memoria, el acceso a herramientas y los efectores del sistema, lo que permite actuar en entornos digitales o físicos.
A medida que la tecnología evoluciona, cabe esperar sistemas multiagente (MAS) más sofisticados, capaces de distribuir tareas y colaborar en problemas complejos.
Por ejemplo, en una ciudad inteligente, un sistema multiagente (MAS) gestionaría el flujo de tráfico en tiempo real, mediante la comunicación de vehículo a todo (V2X), lo que permitiría a los vehículos interactuar con otros vehículos, peatones e infraestructuras viales.
También veremos una mayor integración del análisis de datos multimodales, que permitirá a los agentes interpretar y producir distintos tipos de datos, como texto, voz y vídeo, así como aplicaciones específicas para cada sector, adaptadas a las necesidades singulares de cada ámbito.
¿Cuáles son los beneficios de los agentes de IA?
A medida que los agentes de IA adquieren mayor capacidad de razonamiento, planificación y autoevaluación, podrán realizar tareas que superan las habilidades de los usuarios, como la programación especializada, o asumir tareas más tediosas con rapidez y a gran escala.
En un contexto de escasez de talento, los agentes de IA pueden ayudar a cerrar brechas de competencias en diversos sectores, allí donde la experiencia humana es insuficiente o muy demandada.
Una mayor autonomía permite a los agentes de IA abordar desafíos abiertos del mundo real, desde el descubrimiento científico hasta la mejora de la eficiencia de las cadenas de suministro, así como habilitar robots físicos capaces de manipular objetos y desplazarse por entornos físicos, según Navigating the AI Frontier.
El informe incluye cinco aplicaciones reales de los agentes de IA en sectores que van desde el desarrollo de software y la educación hasta las finanzas, la atención al cliente y la sanidad, como la mejora de la detección de fraudes, la personalización del aprendizaje y la optimización de los diagnósticos y del tratamiento de los pacientes.
Cómo el Foro ayuda a los líderes a comprender la IA y a colaborar en una innovación responsable
El Centro de Excelencia en IA conecta a líderes de diversos sectores para comprender la rápida evolución de la inteligencia artificial y sus implicaciones para las economías y las sociedades. Respalda un diálogo informado sobre las oportunidades, los riesgos y las compensaciones vinculados a la adopción de la IA.
A través de espacios de confianza e iniciativas de colaboración, el Centro permite a los socios construir una comprensión compartida y trabajar juntos en enfoques responsables para la innovación y el uso de la IA.
¿Cuáles son los riesgos de los agentes de IA y cómo pueden abordarse?
A pesar de su potencial, los agentes de IA plantean ciertos riesgos relacionados con las limitaciones técnicas, las preocupaciones éticas y los impactos sociales más amplios asociados al nivel de autonomía de un sistema y al potencial general de su uso cuando se elimina la intervención humana.
Los riesgos técnicos incluyen errores y fallos de funcionamiento, así como problemas de seguridad, entre ellos la posibilidad de automatizar ciberataques. La naturaleza autónoma de los agentes de IA plantea interrogantes éticos sobre la toma de decisiones y la rendición de cuentas, mientras que también existen riesgos socioeconómicos relacionados con el posible desplazamiento de empleos y con la dependencia excesiva y la pérdida de autonomía.
Aprovechar los beneficios de los agentes de IA y mitigar los riesgos dependerá del contexto del entorno específico del agente y de su aplicación.
Estas son solo algunas de las medidas que las organizaciones deberían considerar para abordar los riesgos de los agentes de IA:
Mejorar la transparencia de los agentes e implementar una supervisión «humano en el circuito», que permita a los agentes trabajar de forma autónoma mientras los expertos humanos revisan las decisiones una vez tomadas.
Establecer directrices éticas claras que prioricen los derechos humanos, la privacidad y la rendición de cuentas es una medida esencial para garantizar que los agentes de IA tomen decisiones alineadas con los valores humanos y sociales.
Priorizar la gobernanza de datos y la ciberseguridad antes de desplegar agentes de IA.
Implementar estrategias de educación y concienciación pública es esencial para mitigar los riesgos de dependencia excesiva y pérdida de autonomía en las interacciones sociales con los agentes de IA.
El auge de los agentes de IA no es solo un cambio tecnológico; es una transformación en la forma en que concebimos el trabajo y la colaboración entre humanos y máquinas. Al comprender las capacidades y limitaciones de los agentes de IA, y al implementar estrategias meditadas para su despliegue, las empresas pueden posicionarse para aprovechar todo el potencial de esta tecnología revolucionaria, mitigando al mismo tiempo los riesgos asociados.
A medida que avanzamos, será crucial mantener un equilibrio entre la adopción de la innovación y la garantía de una implementación responsable. El futuro del trabajo está siendo remodelado por los agentes de IA, y quienes se adapten con acierto estarán mejor posicionados para prosperar en este nuevo panorama.
