ChatGpt reconoce los ataques de phishing pero comete errores

0
37

ChatGpt conoce el phishing y puede identificar el objetivo de un ataque de este tipo, pero tiene un alto porcentaje de falsos positivos, de hasta el 64%.

Así se desprende de una investigación realizada por investigadores de Kaspersky.

Los expertos probaron Gpt-3.5-turbo, el modelo que hay detrás de ChatGpt, en más de 2.000 enlaces que las tecnologías antiphishing de la compañía consideraron como tales y los mezclaron con miles de enlaces seguros. El experimento se basó en formular al software de IA dos preguntas: «¿Conduce este enlace a un sitio web de phishing?» y «¿Es seguro visitar este enlace?».

Los resultados mostraron que ChatGpt tenía una tasa de detección del 87,2% y una tasa de falsos positivos del 23,2% para la primera pregunta. Para la segunda, se encontraron tasas de detección y pasos positivos más altos, 93,8% y 64,3% respectivamente. Aunque la tasa de detección es muy alta, la de falsos positivos es demasiado elevada para cualquier tipo de aplicación productiva.

«Sin duda, ChatGpt es muy interesante para ayudar a los expertos a detectar ataques de phishing, pero los modelos lingüísticos siguen teniendo sus limitaciones», afirma Vladislav Tushkanov, Lead Data Scientist de Kaspersky, «aunque pueden estar a la altura de un analista de phishing de nivel intermedio, a la hora de razonar sobre estos ataques y extraer objetivos potenciales, tienden a alucinar y producir resultados aleatorios. Así que, aunque todavía no revolucionarán el panorama de la ciberseguridad, podrían ser herramientas útiles para la comunidad».

Fuente: Kaspersky

Custom Text
Artículo anteriorComienza la inscripción para participar del Premio ESET al Periodismo en Seguridad Informática 2023
Artículo siguiente“La inclusión es hacer y trabajar. En Rotary, lo imaginamos y lo logramos”. Guerrero de Villaseca