Imagina una videollamada donde la persona al otro lado no es quien parece. Gracias a la inteligencia artificial, la manipulación en tiempo real de rostros, voces e incluso la apariencia general es ahora una realidad tangible.
Este avance tecnológico, conocido como deepfake en tiempo real, abre una peligrosa nueva frontera para el fraude, superando las defensas de los sistemas de verificación y representando una amenaza para individuos de todos los ámbitos, desde ciudadanos comunes hasta figuras de alto perfil como líderes empresariales y celebridades.
Marco Ramilli, fundador de la innovadora startup italiana IdentifAI, advierte sobre la creciente sofisticación de estas técnicas. «La capacidad de alterar rostro y voz en tiempo real mediante el ‘morphing’ constituye una forma avanzada de ingeniería social, mucho más eficaz que los fraudes tradicionales a los que estamos más acostumbrados», explica Ramilli a la agencia ANSA. Su empresa ha desarrollado una tecnología ‘degenerativa’ capaz de identificar falsificaciones creadas con inteligencia artificial generativa.
El crecimiento de los incidentes relacionados con deepfakes ha sido alarmante en los últimos años. Datos recopilados por Resemble.AI y AI Incident Database revelan un salto exponencial: de solo 22 casos registrados entre 2017 y 2022, la cifra casi se duplicó a 42 en 2023, y en 2024 se produjo un asombroso aumento del 257%, alcanzando los 150 incidentes. Lo más preocupante es que en el primer trimestre de 2025 ya se han contabilizado 179 incidentes, superando en un 19% el total de todo el año anterior.
Ramilli enfatiza la rápida infiltración de la IA en el mundo del fraude: «Este año, la Inteligencia Artificial ya representa el 5% de los fraudes, un aumento significativo desde el 0.3% del año pasado. Proyectamos que en tan solo cuatro años, esta cifra se disparará hasta el 60-70%».
Ante la constante exposición a estímulos multimedia, el experto subraya la necesidad de precaución y la adopción de herramientas capaces de analizar imágenes y videos para discernir la realidad de la falsificación, advirtiendo que, de lo contrario, la confianza en el entorno digital podría erosionarse gravemente.
Fuente: Web. Editado por CambioDigital OnLine
