Gartner: Los riesgos relacionados con IA experimentarán los mayores aumentos de cobertura de auditoría en 2024

0
8

Los directores ejecutivos de auditoría (CAE) esperan que la cobertura de auditoría de los riesgos relacionados con la IA aumente a medida que las organizaciones se apresuran a adoptar la tecnología

El rápido crecimiento y adopción de la IA generativa (GenAI) ha dado lugar a una lucha para proporcionar cobertura de auditoría sobre los riesgos potenciales derivados del uso de la tecnología, según una encuesta realizada por Gartner, Inc.

«A medida que las organizaciones aumentan el uso de la nueva tecnología de IA, muchos auditores internos buscan ampliar su cobertura en esta área», dijo Thomas Teravainen, especialista en investigación de la práctica de Gartner para Líderes Legales, de Riesgo y Cumplimiento. «Hay una serie de riesgos relacionados con la IA a los que se enfrentan las organizaciones, desde fallos de control y resultados poco fiables hasta ciberamenazas avanzadas. La mitad de los seis principales riesgos con mayor aumento de la cobertura de auditoría están relacionados con la IA.»

Gartner encuestó a 102 directores ejecutivos de auditoría (CAE) en agosto de 2023 para calificar la importancia de proporcionar garantías sobre 35 riesgos. Los seis principales riesgos con mayor aumento potencial de la cobertura de auditoría son la gestión del cambio estratégico, la equidad y la inclusión de la diversidad, la cultura organizativa, las ciberamenazas habilitadas por IA, los fallos de control de IA y los resultados poco fiables de los modelos de IA (véase la Figura 1).

Figura 1: Mayores aumentos potenciales de la cobertura de auditoría

Fuente: Gartner (marzo de 2024)

Grandes lagunas de confianza para los riesgos de la IA
«Tal vez la conclusión más sorprendente de estos datos es el grado de falta de confianza de los auditores internos en su capacidad para supervisar eficazmente los riesgos de la IA», afirma Teravainen. «No más del 11% de los encuestados que calificaron uno de los tres principales riesgos relacionados con la IA mencionados anteriormente como muy importante se consideraron muy confiados a la hora de proporcionar garantías sobre el mismo.»

Las aplicaciones GenAI disponibles públicamente, y las desarrolladas internamente, crean nuevos y mayores riesgos para la seguridad de los datos y la información, la privacidad, la protección de la propiedad intelectual y la infracción de los derechos de autor, así como para la confianza y la fiabilidad de los resultados. Muchas iniciativas GenAI empresariales se encuentran en unidades de negocio orientadas al cliente, y la proliferación de GenAI hace que el aumento de la cobertura de los resultados poco fiables de los modelos de IA (por ejemplo, información sesgada o inexacta y alucinaciones de los modelos de IA) sea una prioridad para proteger a la organización de daños a la reputación o posibles acciones legales.

«Con una gama tan amplia de riesgos potenciales que provienen de todo el negocio, es fácil entender por qué los auditores no confían en su capacidad para aplicar garantías», dijo Teravainen. «Sin embargo, con los CEO y CFO calificando la IA como la tecnología que tendrá un impacto más significativo en sus organizaciones en los próximos tres años, las continuas brechas en la confianza socavarán la capacidad de los CAE para satisfacer las expectativas de las partes interesadas.»

Fuente: Gartner

 

Custom Text
Artículo anteriorApple se enfrenta a una importante demanda por prácticas monopolísticas
Artículo siguienteKaspersky advierte sobre páginas de phishing que utilizan fármacos como gancho para el robo de dinero y datos personales