La disponibilidad masiva de IA generativa, como ChatGPT de OpenAI y Google Bard, se convirtió en una de las principales preocupaciones para los ejecutivos de riesgos empresariales en el segundo trimestre de 2023, según Gartner, Inc.
«La IA generativa fue el segundo riesgo más nombrado en nuestra encuesta del segundo trimestre, apareciendo en el top 10 por primera vez», dijo Ran Xu director de investigación en la Práctica de Riesgo y Auditoría de Gartner. «Esto refleja tanto el rápido crecimiento de la conciencia pública y el uso de herramientas de IA generativa, así como la amplitud de los casos de uso potencial, y por lo tanto los riesgos potenciales, que estas herramientas engendran.»
En mayo de 2023, Gartner encuestó a 249 altos ejecutivos de riesgos empresariales para proporcionar a los líderes una visión comparativa de 20 riesgos emergentes. Los informes trimestrales sobre riesgos emergentes incluyen información detallada sobre el posible impacto, el marco temporal, el nivel de atención y las oportunidades percibidas para estos riesgos.
La viabilidad de terceros fue el principal riesgo emergente que las organizaciones vigilan más de cerca en la encuesta del 2T23 (véase la Tabla 1). La incertidumbre en la planificación financiera fue el tercer riesgo, seguido del riesgo de concentración en la nube. Las tensiones comerciales con China completaron los cinco principales riesgos, que se dividieron entre cuestiones sintomáticas de la actual volatilidad macroeconómica y geopolítica y preocupaciones relacionadas con la tecnología.
Tabla 1: Los cinco riesgos emergentes más citados en el segundo trimestre de 2023
Fuente: Gartner (agosto de 2023)
Disponibilidad masiva de IA generativa
Gartner ha identificado previamente seis riesgos de la IA generativa y cuatro áreas de regulación de la IA que son relevantes para las funciones de aseguramiento. En términos de gestión del riesgo empresarial, deben abordarse tres aspectos principales, según los expertos de Gartner:
Propiedad intelectual
«La información introducida en una herramienta de IA generativa puede pasar a formar parte de su conjunto de entrenamiento, lo que significa que información sensible o confidencial podría acabar en los resultados de otros usuarios», afirma Xu.»Además, el uso de los resultados de estas herramientas podría acabar infringiendo inadvertidamente los derechos de propiedad intelectual de otros que las hayan utilizado».Es importante educar a los líderes corporativos sobre la necesidad de precaución y transparencia en torno al uso de tales herramientas para que los riesgos de propiedad intelectual puedan mitigarse adecuadamente tanto en términos de entrada como de salida de las herramientas de IA generativa.
Privacidad de los datos
Es posible que las herramientas de IA generativa compartan información de los usuarios con terceros, como vendedores o proveedores de servicios, sin previo aviso.Esto tiene el potencial de violar la ley de privacidad en muchas jurisdicciones. Por ejemplo, ya se han aplicado normativas en China y la UE, y están surgiendo propuestas de normativas en EE.UU., Canadá, India y Reino Unido, entre otros países.
Ciberseguridad
«Los piratas informáticos siempre están probando nuevas tecnologías en busca de formas de subvertirlas para sus propios fines, y la IA generativa no es diferente», afirma Xu.»Hemos visto ejemplos de código de malware y ransomware que la IA generativa ha sido engañada para producir, así como ataques de ‘inyecciones rápidas’ que pueden engañar a estas herramientas para que proporcionen información que no deberían. Esto está llevando a la industrialización de ataques avanzados de phishing».
Causas e implicaciones del riesgo de viabilidad de terceros: «Una inflación persistente que responde menos a las subidas de los tipos de interés y se mantiene más tiempo de lo previsto ha disparado los costes y las presiones sobre los márgenes de terceros», afirma Xu.»A medida que los bancos centrales aumentan los tipos de interés para luchar contra la inflación, se produce también un proceso de restricción del crédito que puede obligar a los proveedores a suspender sus operaciones o declararse insolventes al aumentar los costes de los préstamos.»
Si las condiciones económicas se deterioran de forma generalizada, puede producirse una caída inesperada de la demanda que afecte a la viabilidad de los proveedores o a su capacidad para suministrar bienes y servicios en el momento oportuno. Los expertos de Gartner identificaron tres posibles consecuencias para la viabilidad de terceros que los gestores de riesgos deben vigilar a medida que se desarrolla la situación:
Pérdida de insumos y materiales clave: Si los terceros aumentan sus precios debido a la situación económica general, existe un claro riesgo de perder el acceso a insumos y materiales clave, ya que los terceros favorecerían a los clientes dispuestos a pagar precios más altos.
Hipótesis de planificación financiera erróneas: Las hipótesis de costes quedarán invalidadas a medida que los proveedores aumenten los precios o fallen, lo que obligará a cambiar de proveedor y a aumentar los precios para obtener bienes y servicios.
Desafíos fuera de la cadena de suministro: Los socios, como los proveedores de servicios gestionados o los socios comerciales, los acreedores o los proveedores de tecnología pueden cesar o reducir sus operaciones.
Fuente: Gartner
