ChatGpt conoce el phishing y puede identificar el objetivo de un ataque de este tipo, pero tiene un alto porcentaje de falsos positivos, de hasta el 64%.
Así se desprende de una investigación realizada por investigadores de Kaspersky.
Los expertos probaron Gpt-3.5-turbo, el modelo que hay detrás de ChatGpt, en más de 2.000 enlaces que las tecnologías antiphishing de la compañía consideraron como tales y los mezclaron con miles de enlaces seguros. El experimento se basó en formular al software de IA dos preguntas: «¿Conduce este enlace a un sitio web de phishing?» y «¿Es seguro visitar este enlace?».
Los resultados mostraron que ChatGpt tenía una tasa de detección del 87,2% y una tasa de falsos positivos del 23,2% para la primera pregunta. Para la segunda, se encontraron tasas de detección y pasos positivos más altos, 93,8% y 64,3% respectivamente. Aunque la tasa de detección es muy alta, la de falsos positivos es demasiado elevada para cualquier tipo de aplicación productiva.
«Sin duda, ChatGpt es muy interesante para ayudar a los expertos a detectar ataques de phishing, pero los modelos lingüísticos siguen teniendo sus limitaciones», afirma Vladislav Tushkanov, Lead Data Scientist de Kaspersky, «aunque pueden estar a la altura de un analista de phishing de nivel intermedio, a la hora de razonar sobre estos ataques y extraer objetivos potenciales, tienden a alucinar y producir resultados aleatorios. Así que, aunque todavía no revolucionarán el panorama de la ciberseguridad, podrían ser herramientas útiles para la comunidad».
Fuente: Kaspersky
