Una reciente predicción de Gartner, una firma de investigación y consultoría global, sugiere que los agentes guardianes representarán entre el 10% y el 15% del mercado de la inteligencia artificial (IA) agéntica para el año 2030. Esta proyección subraya la creciente necesidad de controles de confianza, riesgo y seguridad automatizados a medida que el uso de agentes de IA se expande en el ámbito empresarial.
Los agentes guardianes son herramientas de IA diseñadas para garantizar interacciones seguras y fiables con los sistemas de IA. Su función abarca tanto la asistencia en tareas como la revisión y supervisión de contenido, así como la operación como sistemas autónomos o semiautónomos capaces de ejecutar o bloquear acciones basadas en objetivos predefinidos. Gartner destaca que estos agentes son cruciales para mantener la integridad de los ecosistemas de IA, que se están volviendo cada vez más complejos.
Según un estudio de Gartner, una proporción de líderes de TI ya ha comenzado a implementar agentes de IA en sus operaciones. El auge de la IA agéntica, si bien promete eficiencia y transformación, también introduce riesgos asociados. En este contexto, los agentes guardianes se perfilan como una solución para proporcionar supervisión, control y seguridad automatizados para las aplicaciones y agentes de IA.
Expertos de Gartner señalan que los agentes guardianes aprovechan un amplio espectro de capacidades de IA agéntica y evaluaciones determinísticas basadas en IA para supervisar y gestionar el rango completo de las capacidades de los agentes, equilibrando la toma de decisiones en tiempo real con la gestión de riesgos. La firma también predice que para 2028, un porcentaje significativo de las aplicaciones de IA incorporará sistemas multiagente, lo que hará que las herramientas de gobernanza automatizadas sean un componente fundamental.
Las organizaciones, particularmente los directores de informática (CIOs) y los líderes de seguridad de IA, deberían considerar la priorización de tres funciones principales de los agentes guardianes: revisión, monitoreo y protección. Estas funciones contribuyen a salvaguardar y proteger las interacciones con la IA, asegurando que los procesos de IA se mantengan fiables y seguros a medida que la superficie de riesgo de la IA se expande.
Cifras Clave
Participación de Mercado: Gartner pronostica que los agentes guardianes capturarán entre el 10% y el 15% del mercado de la IA agéntica para el año 2030. Esta cifra resalta la expectativa de un crecimiento considerable en la adopción de estas soluciones específicas para la seguridad y gestión de la IA.
Adopción de Sistemas Multiagente: Se prevé que, para el año 2028, el 50% de las aplicaciones de IA generativa integrarán sistemas multiagente. Esta evolución implica una mayor complejidad en los entornos de IA, lo que a su vez impulsará la necesidad crítica de herramientas de gobernanza automatizadas, como los agentes guardianes.
Consejos para las Organizaciones
Gartner ofrece recomendaciones específicas para las organizaciones, particularmente para los Directores de Informática (CIOs) y los líderes de seguridad de IA, dada la expansión del uso de agentes de IA:
Priorizar Tres Funciones Clave: Es fundamental que las organizaciones se centren en la implementación de agentes guardianes que cumplan con tres funciones principales:
Revisión: Los agentes guardianes deben ser capaces de examinar y validar las operaciones y el contenido generado por otros agentes de IA, asegurando la conformidad y la precisión.
Monitoreo: Deben supervisar de forma continua las interacciones y el comportamiento de los sistemas de IA para identificar anomalías o actividades no deseadas en tiempo real.
Protección: Su función protectora implica la capacidad de intervenir, bloquear acciones o mitigar riesgos cuando se detectan amenazas o desviaciones de las políticas establecidas, salvaguardando así la integridad de los sistemas y la información.
Incorporar Controles Automatizados de Confianza, Riesgo y Seguridad (TRiSM): A medida que los agentes de IA se vuelven más autónomos y capaces de realizar acciones, la necesidad de controles de TRiSM automatizados se intensifica. Implementar estos controles mediante agentes guardianes es crucial para asegurar interacciones fiables y mitigar los riesgos inherentes a la IA.
Conclusiones Principales
Necesidad Crece con la Autonomía: El avance de la IA agéntica, que otorga a los sistemas una mayor capacidad de decisión y acción, genera una demanda proporcionalmente mayor de mecanismos de supervisión y seguridad automatizados. Los agentes guardianes surgen como una respuesta vital a esta necesidad.
Balance entre Decisión y Riesgo: Los agentes guardianes se destacan por su capacidad para equilibrar la toma de decisiones en tiempo real con una gestión de riesgos eficaz. Esto se logra mediante la combinación de las capacidades de la IA agéntica y evaluaciones determinísticas que permiten una supervisión completa del rango de operaciones de los agentes.
Elemento Fundamental de Gobernanza: Con la proliferación esperada de sistemas multiagente y la expansión de la superficie de riesgo de la IA, las herramientas de gobernanza automatizadas se consolidan como un componente indispensable para mantener la seguridad, la fiabilidad y la confianza en los ecosistemas de IA.
Fuente Comunicado de Prensa Gartner | Editado por CambioDigital OnLine
