La inteligencia artificial y generativa están transformando rápidamente el panorama de la ciberseguridad. Un nuevo informe del Instituto de Investigación Capgemini sobre 1.000 empresas, titulado «Nuevas defensas, nuevas amenazas: qué aportan la IA y la IA Gen a la ciberseguridad», destaca cómo estas tecnologías ofrecen oportunidades de defensa innovadoras, pero al mismo tiempo introducen amenazas complejas.
Según la investigación, dos tercios de las organizaciones consideran actualmente la IA una prioridad en sus estrategias de seguridad, principalmente por su capacidad para analizar grandes cantidades de datos e identificar patrones de ataque, lo que permite anticipar, detectar y responder a las amenazas con mayor eficacia. Sin embargo, el auge de la tecnología generativa, con su capacidad para generar contenidos sintéticos de gran realismo, abre el camino a nuevos problemas. Casi todas las empresas encuestadas (97%) afirman haber sufrido infracciones o problemas de seguridad relacionados con el uso de Gen AI en el último año. Los ciberdelincuentes pueden aprovechar la tecnología para crear ataques más sofisticados y difíciles de detectar, ampliando la superficie de ataque y descubriendo puntos débiles en los sistemas informáticos.
Más de dos de cada cinco empresas (43%) afirmaron haber sufrido pérdidas económicas por el uso de deepfakes, contenidos mediáticos falsos, generados por software de inteligencia artificial. No es sorprendente que alrededor de seis de cada diez organizaciones crean que necesitan aumentar sus presupuestos de ciberseguridad para reforzar adecuadamente sus defensas.
El Instituto de Investigación Capgemini también destaca los riesgos asociados al uso indebido de la IA y la Gen AI por parte de los empleados. La inexperiencia puede provocar filtraciones de datos y pérdidas económicas. Casi todas las empresas encuestadas, de 12 sectores y 13 países de todo el mundo, experimentaron problemas de seguridad relacionados con el uso de la IA generativa, incluidas las denominadas alucinaciones, es decir, respuestas incorrectas y engañosas, la generación de contenido inapropiado y los ataques de «inyección puntual», que se dirigen a las vulnerabilidades de los grandes modelos lingüísticos, como los que potencian los chatbots y los asistentes virtuales.
Por último, existe una creciente preocupación por la manipulación de datos y la posible fuga de información a través de archivos utilizados para el entrenamiento de modelos generativos de IA.
A pesar de estos nuevos retos, tanto la IA como la IA Generativa siguen siendo herramientas clave de ciberseguridad. Sin embargo, las organizaciones deben adoptar un enfoque holístico de la seguridad, invirtiendo en tecnologías avanzadas y en la formación de los empleados para mitigar los riesgos y aprovechar al máximo las ventajas que ofrecen estas potentes tecnologías.
Fuente: Web. Editado por CambioDigital OnLine
