Una nueva encuesta de HackerOne muestra que el 67% de los encuestados cree que una revisión externa e imparcial de GenAI es la forma más eficaz de descubrir los problemas de seguridad y protección de la IA, a medida que el red teaming de IA cobra impulso.
Casi el 10% de los investigadores de seguridad se especializan ahora en tecnología de IA, mientras que el 48% de los líderes de seguridad consideran que la IA es uno de los mayores riesgos para sus organizaciones, según el informe, basado en datos de 500 líderes de seguridad globales y más de 2.000 hackers en la plataforma HackerOne.
Más de dos tercios (68%) de los profesionales de la seguridad afirman que una revisión externa e imparcial de las implementaciones de IA es la forma más eficaz de mitigar los riesgos de seguridad de la IA en general. Ha habido un aumento del 171 por ciento en los activos de IA en el ámbito de la plataforma HackerOne, con un 55 por ciento de todas las vulnerabilidades de IA reportadas como problemas de seguridad de IA.
«Incluso la automatización más sofisticada no puede igualar el ingenio de la inteligencia humana», dice Chris Evans, CISO y jefe de hacking de HackerOne. «El Informe de Seguridad 2024 Hacker-Powered demuestra lo esencial que es la experiencia humana para hacer frente a los desafíos únicos planteados por la IA y otras tecnologías emergentes. El informe también proporciona orientación sobre la construcción de relaciones productivas entre las organizaciones y los investigadores de seguridad para que las vulnerabilidades más novedosas y elusivas puedan ser efectivamente encontradas y solucionadas.»
Entre otras conclusiones, los ataques de secuencia de comandos en sitios cruzados (XSS) y los errores de configuración siguen siendo los puntos débiles más denunciados. Los pentests y las recompensas por errores también siguen siendo los principales compromisos para identificar estos problemas. Los pentests descubren vulnerabilidades más sistémicas o arquitectónicas, como los errores de configuración. En el caso de las recompensas por fallos, los investigadores de seguridad se centran en vectores de ataque del mundo real, problemas a nivel de usuario y fallos de lógica empresarial, siendo el XSS el punto débil descubierto con más frecuencia.
Los sectores maduros en materia de seguridad y centrados en la tecnología, como los servicios en línea, la venta al por menor y el comercio electrónico, están reduciendo activamente las vulnerabilidades comunes, a diferencia de otros sectores más tradicionales. Las empresas de Web3 también tienen un 65% menos de informes sobre XSS que la media del sector.
Fuente WEB | Editado por CambioDigital OnLine
