La IA es una de las innovaciones más potentes de la década, si no la que más. Sin embargo, ese poder también conlleva el riesgo de abuso.
Siempre que se añade a la sociedad una tecnología nueva y perturbadora, si hay una forma de abusar de ella en beneficio de otros, los malhechores la encontrarán. Así pues, la amenaza de la IA no es inherente a la tecnología en sí, sino una consecuencia no intencionada de que los malos actores la utilicen con fines que causan estragos y daños. Si no hacemos algo contra estas amenazas cibernéticas que plantea el uso indebido de la IA, los usos legítimos y beneficiosos de la tecnología se verán socavados.
– Ataques de phishing con IA
Uno de los ejemplos más obvios de un uso perjudicial de la tecnología de IA es la mejora de los esquemas de phishing. Los estafadores de phishing, que intentan convencer a una víctima para que comparta información personal haciéndose pasar por una fuente de confianza, utilizan la tecnología de IA generativa para hacer sus mensajes más convincentes.
Mientras que la IA generativa está diseñada para fines como la redacción de correos electrónicos o la alimentación de chatbots de atención al cliente, un estafador puede alimentar un modelo con una biblioteca de materiales escritos por la persona a la que espera imitar y crear una suplantación convincente. Esto hace que sea mucho más difícil distinguir entre mensajes legítimos y fraudulentos.
– Deepfakes
Los estafadores también pueden abusar de la IA generativa para crear imágenes, audios y vídeos fraudulentos conocidos como «deepfakes». Los deepfakes han sido noticia recientemente debido a su uso con fines destructivos, como daños a la reputación, chantaje, difusión de desinformación y manipulación de elecciones y mercados financieros. Con lo avanzada que se ha vuelto esta tecnología, ahora es extremadamente difícil distinguir entre contenido genuino y adulterado.
– Ciberataques automatizados
La otra capacidad de la IA que los malhechores han aprovechado para causar daños significativos a la sociedad es su capacidad para realizar análisis avanzados de datos. Aunque esta cualidad puede beneficiar sustancialmente la eficiencia y productividad de las empresas, también puede aumentar la eficiencia de los malos actores, incluidos los hackers. Los hackers pueden programar un modelo de IA para sondear constantemente las redes en busca de vulnerabilidades, aumentando así el volumen de sus ataques y haciéndolos más difíciles de detectar y responder.
– Ataques contra cadenas de suministro e infraestructuras críticas
Sin embargo, una amenaza aún más importante surge cuando estos ataques automatizados se dirigen contra infraestructuras críticas o cadenas de suministro. Prácticamente todo en nuestro mundo -desde las rutas marítimas, los semáforos y el control del tráfico aéreo hasta las redes eléctricas, los sistemas de telecomunicaciones y los mercados financieros- funciona con ordenadores. Si un pirata informático consiguiera hacerse con el control de una de estas redes mediante un ataque automatizado, el daño potencial causado (tanto financiero como en términos de pérdida de vidas humanas) podría ser catastrófico.
Luchar contra el abuso de la IA
Afortunadamente, estas ciberamenazas para las que los malhechores están aprovechando la IA no quedarán sin control porque muchas de las herramientas que estos malos actores utilizan para causar daño pueden reutilizarse para cumplir una función de ciberseguridad. Los mismos modelos que los hackers entrenan para identificar vulnerabilidades, por ejemplo, pueden ser utilizados por los propietarios de redes para descubrir puntos débiles que necesitan ser reparados. También se están desarrollando modelos de IA para analizar texto, imágenes y audio y determinar si son legítimos o fraudes generados por la IA.
También disponemos de una poderosa herramienta para luchar contra estos casos de uso nocivo: la educación. Manteniéndonos informados sobre las ciberamenazas que plantean los abusadores de la IA, podemos ayudar a evitar ser víctimas de ellos. Debemos utilizar prácticas de ciberseguridad sólidas, incluidas contraseñas fuertes y control de acceso, y actuar con la debida diligencia a la hora de manejar mensajes sospechosos y determinar si son estafas o auténticos.
La inteligencia artificial está a punto de cambiar el mundo, pero que ese cambio sea a mejor o a peor depende de en manos de quién caiga esta tecnología y de cómo la utilice. Para crear un mundo en el que la IA pueda utilizarse para hacer del mundo un lugar mejor, primero debemos comprender mejor cómo se está utilizando la tecnología para causar daño, ya que este es el primer paso para mitigar estas ciberamenazas potencialmente peligrosas.
Fuente WEB | Editado por CambioDgitial OnLine
