Aunque las empresas se sienten atraídas por los beneficios potenciales de la inteligencia artificial (IA) generativa, desde ayudar a mejorar el análisis de datos, aumentar la eficiencia y reducir las tareas administrativas, por nombrar algunos, los líderes de ciberseguridad se muestran cautelosos ante los posibles retos que pueden surgir en un entorno ya de por sí precario.
Hace apenas un año y medio, el uso de la IA genérica en la empresa era mínimo. Sin embargo, un estudio publicado en mayo por la firma de investigación International Data Corporation (IDC) reveló que el 65% de las empresas habían empezado a utilizar la IA gen, porcentaje que aumentó al 71% en septiembre. Otro 22% tenía previsto adoptarla en el próximo año. Además, las herramientas de IA gen basada en la nube, como ChatGPT, han hecho que la adopción de la IA gen sea casi omnipresente en todas las empresas.
La adopción generalizada de la IA generativa, junto con la presión de los directores generales y los consejos de administración, está haciendo que los responsables de seguridad pierdan el sueño. Los actores de las amenazas están explotando la IA generativa para orquestar ataques de ingeniería social a gran escala, crear contenidos audiovisuales deepfake más realistas, desarrollar sofisticadas cepas de malware autoevolutivo y lanzar ataques de phishing. Entienden que deben seguir el ritmo o arriesgarse a quedarse atrás.
Sanjoy Paul, Senior Technology de Hero Vired, una empresa del Grupo Hero dedicada a la formación digital, mencionó que la IA generativa aumenta significativamente el riesgo asociado a la seguridad de las contraseñas, permitiendo a los ciberdelincuentes descifrarlas con mayor eficacia, especialmente las débiles o reutilizadas. También introduce nuevas formas de malware que pueden eludir los sistemas de seguridad tradicionales, lo que supone un reto importante para las defensas de ciberseguridad.
El estudio 2024 Data Privacy Benchmark Study de la empresa de redes informáticas Cisco, publicado en enero, reveló que las organizaciones tienen varias preocupaciones en relación con el uso de Gen AI. Las principales preocupaciones incluyen las amenazas a los derechos legales y de propiedad intelectual de una organización (69%) y el riesgo de divulgación de información al público o a los competidores (68%).
A pesar de estas preocupaciones, la mayoría de las organizaciones reconocen la necesidad de garantizar a sus clientes que sus datos sólo se utilizan para los fines previstos y legítimos de la IA. Sin embargo, se ha avanzado poco en la resolución de estas preocupaciones.
Dev Stahlkopf, Director Jurídico de Cisco, subrayó que la IA Genética debe considerarse una tecnología fundamentalmente diferente con retos únicos que deben abordarse. Subrayó la importancia de una gobernanza meditada para preservar la confianza de los clientes.
Un informe de Deloitte publicado en enero también se hacía eco de preocupaciones similares sobre la IA de nueva generación. Revelaba que sólo una cuarta parte de los directivos cree que sus organizaciones están adecuadamente preparadas para abordar los problemas de gobernanza y riesgo asociados a la adopción de la IA de nueva generación. Además, sólo el 47% está de acuerdo en que sus organizaciones están educando eficazmente a los empleados sobre las capacidades, beneficios y valor de la IA de nueva generación.
También es necesario incorporar la seguridad en cada producto, como el cifrado, según Sudip Banerjee, director de tecnología de campo (CTO) para APJ, Zscaler. «A menudo, los desarrolladores de TI piensan en reducir costos y acelerar el tiempo de comercialización cuando crean aplicaciones en la nube. Sin embargo, la integración de la funcionalidad de seguridad en el producto de nube en las primeras etapas puede ayudar a reducir los riesgos de seguridad», dijo.
«A medida que más empresas integran herramientas de codificación en su pila tecnológica, es crucial disponer de herramientas de supervisión para garantizar que los resultados cumplen las expectativas», opina Rakesh Ravuri, CTO y SVP – Engineering en Publicis Sapient. Los CIO que proporcionen herramientas de codificación generativa con una base de código sólida descubrirán que sus equipos generan mejor código utilizando las mismas herramientas.
Además, los puestos de trabajo en IA generativa están en alza. Con la IA generativa despertando entusiasmo en todos los sectores, la demanda de profesionales cualificados en IA y aprendizaje automático (ML) está aumentando en la India.
La empresa de selección de personal Randstad informa de que la contratación para puestos de IA y ML ha crecido un 30% anual desde la pandemia, mientras que la demanda de otras habilidades digitales ha aumentado a la mitad de ese ritmo. Se estima que hay aproximadamente 200.000 profesionales cualificados en IA/ML en el país.
A medida que la IA generativa siga evolucionando, funciones como las de arquitectos de la nube de IA, ingenieros de datos de IA, especialistas en ética de IA y profesionales de seguridad de IA adquirirán mayor relevancia. Sin embargo, estas competencias requieren una actualización continua para que se utilicen de forma eficaz y segura, afirma Ravuri.
Fuente WEB | Editado por CambioDigital Online
