Un estudio reciente de Salesforce ilumina la dirección en que las prácticas de seguridad de TI deben evolucionar de cara al año 2025. El informe subraya una percepción generalizada entre los líderes de seguridad de TI: aproximadamente el 80% de ellos reconocen la necesidad imperante de transformar sus enfoques de seguridad ante un panorama digital en constante cambio. Esta necesidad no es meramente conceptual, sino que surge de la rápida adopción de la inteligencia artificial (IA) y el incremento en la sofisticación de las ciberamenazas.
El estudio revela una aceptación notable de los agentes de IA. Todos los líderes encuestados identifican áreas específicas de seguridad que podrían beneficiarse directamente de la implementación de estas tecnologías. La expectativa es que los agentes de IA, al automatizar tareas repetitivas y de bajo nivel, permitan a los equipos de seguridad desviar su atención hacia desafíos más complejos y estratégicos que requieren discernimiento humano. Esta capacidad de los agentes autónomos para reducir el trabajo manual podría liberar recursos valiosos, optimizando la eficiencia operativa de los equipos de ciberseguridad.
Obstáculos Clave para una Implementación Segura y Útil de la IA
Sin embargo, el optimismo convive con una serie de preocupaciones fundamentales que actúan como obstáculos significativos para una implementación de IA útil y segura para las empresas. Estos desafíos se centran principalmente en la preparación de la infraestructura, la integridad de los datos y la confianza en los controles de seguridad:
Preparación Inadecuada de la Base de Datos (Data Foundation): Un impedimento considerable es la preocupación de casi la mitad de los líderes (48%) sobre si su infraestructura de datos actual está adecuadamente configurada para aprovechar al máximo el potencial de la IA agéntica. Si los datos no están limpios, organizados o son insuficientes, o si las bases de datos no están optimizadas, la IA resultante podría ser ineficaz o incluso perjudicial para la toma de decisiones empresariales. La calidad y accesibilidad de los datos son la espina dorsal del rendimiento de cualquier sistema de IA.
Riesgo de Envenenamiento de Datos (Data Poisoning): La «contaminación de datos» emerge como una de las principales inquietudes. Este obstáculo se refiere a la manipulación maliciosa de los conjuntos de datos utilizados para entrenar los algoritmos de IA. Si estos datos son comprometidos, los modelos de IA pueden aprender patrones incorrectos o sesgados, lo que podría llevar a resultados inexactos, fallos de seguridad o incluso a la toma de decisiones empresariales erróneas que podrían ser explotadas por atacantes. Asegurar la integridad y la procedencia de los datos de entrenamiento es un desafío complejo que requiere vigilancia constante.
Falta de Confianza en los Controles de Seguridad (Guardrails): Más de la mitad de los líderes (55%) no confían plenamente en la existencia de los «guardarraíles» o controles de seguridad adecuados para desplegar agentes de IA de forma segura. Esto se traduce en la ausencia o la insuficiencia de marcos de gobernanza, políticas, procedimientos y tecnologías de seguridad diseñados específicamente para gestionar los riesgos inherentes a la IA. Sin estos controles robustos, las empresas se exponen a que los agentes de IA actúen de manera impredecible, expongan datos sensibles o sean explotados, lo que podría tener consecuencias operativas y reputacionales significativas. La falta de confianza en estas salvaguardas frena la adopción plena y segura de la IA.
Finalmente, el estudio proyecta un aumento significativo en la inversión en seguridad. Se anticipa que el 75% de las organizaciones incrementarán sus presupuestos de seguridad en el próximo año. Este incremento de fondos refleja el reconocimiento de la importancia crítica de la ciberseguridad en el entorno empresarial actual y la necesidad de modernizar las defensas para afrontar amenazas emergentes, incluyendo las asociadas con la propia adopción de la IA y los obstáculos mencionados. La asignación de mayores recursos financieros es un paso tangible hacia la materialización de la transformación de las prácticas de seguridad que los líderes de TI consideran indispensable.
Fuente Comunicado de Prensa Salesforce | Editado por CambioDigital Online
