Google Threat Intelligence Group ha observado en los últimos meses un cambio sostenido en la manera en que distintos actores de amenazas incorporan modelos de inteligencia artificial en sus operaciones. Lo que antes aparecía como experimentación puntual se ha convertido en un uso más estructurado, orientado tanto a acelerar la identificación de vulnerabilidades como a automatizar fases completas de un ataque. La investigación combina incidentes analizados por Mandiant, capacidades de Gemini y estudios propios del equipo, y describe un escenario en el que la IA funciona como herramienta ofensiva, como asistente operativo y, al mismo tiempo, como nuevo objetivo dentro de la cadena de suministro tecnológica.
Uno de los elementos más llamativos es la utilización de modelos generativos para analizar firmware, protocolos y componentes embebidos con el fin de detectar fallos lógicos que, en ocasiones, resultan más accesibles para un modelo que para un analista tradicional. En un caso documentado, un actor criminal desarrolló un exploit de día cero destinado a eludir la autenticación multifactor en una herramienta de administración web. El código mostraba patrones característicos de generación asistida por IA, como estructuras repetitivas y comentarios extensos que no coincidían con el estilo habitual de los desarrolladores del grupo. Aunque la vulnerabilidad requería credenciales válidas, el fallo respondía a un error conceptual que los modelos actuales identifican con relativa facilidad cuando se les guía mediante técnicas de jailbreaking orientadas a que adopten el rol de un auditor experto.
El uso de IA no se limita a la fase de descubrimiento. Algunos grupos han comenzado a generar o modificar malware con ayuda de modelos, incorporando capas de ofuscación que dificultan el análisis. Se han observado cargas útiles que incluyen bloques de código irrelevante diseñados para distraer a los analistas, así como variantes polimórficas capaces de alterar su estructura en cada ejecución. Familias como PROMPTFLUX, HONESTCUE o LONGSTREAM muestran cómo los atacantes experimentan con la inserción de comentarios generados por modelos que describen funciones inactivas, utilizadas como señuelo para ocultar la lógica real del programa.
Entre los ejemplos más avanzados aparece PROMPTSPY, un backdoor para Android que integra un módulo capaz de interpretar la interfaz del dispositivo y ejecutar acciones como si se tratara de un usuario. El modelo recibe una representación estructurada de la pantalla y devuelve instrucciones precisas para interactuar con el sistema, lo que permite automatizar tareas que antes requerían intervención humana. El malware puede incluso capturar datos biométricos para reproducir patrones de desbloqueo y emplea mecanismos de persistencia basados en superposiciones invisibles que dificultan su eliminación. Google ha deshabilitado la infraestructura asociada y no se han encontrado versiones activas en Google Play, aunque el caso ilustra la dirección que están tomando algunas operaciones.
La IA también se ha convertido en un asistente de reconocimiento para actores que buscan información contextual sobre sus objetivos. Se han detectado consultas destinadas a reconstruir organigramas, identificar proveedores críticos o analizar imágenes para determinar el modelo exacto de un dispositivo utilizado por una víctima. Este tipo de apoyo permite preparar campañas de phishing más precisas o adaptar exploits a entornos concretos. En paralelo, algunos grupos han comenzado a integrar modelos en flujos de trabajo agentivos capaces de ejecutar tareas de forma autónoma, correlacionar resultados y decidir qué herramientas emplear en cada fase. Plataformas como Hexstrike o Strix, utilizadas por actores vinculados a China, muestran cómo la automatización se extiende al descubrimiento de superficies de ataque y a la validación de vulnerabilidades.
En el ámbito de las operaciones de información, la IA se emplea para generar contenido, traducir materiales o producir audio narrativo. Aunque no se han observado avances que modifiquen de forma sustancial la dinámica de estas campañas, algunos grupos prorrusos han utilizado voces sintéticas para reforzar la apariencia de autenticidad en vídeos manipulados, como ocurrió en la operación conocida como Overload.
A medida que los modelos comerciales se vuelven más potentes, los actores maliciosos buscan formas de acceder a ellos de manera anónima y sostenida. Se han documentado prácticas como el uso de navegadores antidetección, servicios que agrupan cuentas, automatización de registros y herramientas que agregan múltiples claves API bajo un único punto de acceso. Estas técnicas permiten eludir límites de uso, reducir costos y ocultar patrones de actividad, lo que dificulta la identificación de comportamientos abusivos.
La IA no solo se utiliza como herramienta ofensiva; también se ha convertido en un objetivo. El ecosistema de bibliotecas, conectores y componentes que rodea a los modelos abre nuevas superficies de ataque. GTIG ha observado intentos de comprometer paquetes integrados en entornos de IA, en línea con categorías de riesgo descritas en el marco Secure AI Framework, como componentes inseguros o acciones no autorizadas. En algunos casos, los atacantes han distribuido paquetes maliciosos diseñados para obtener acceso inicial a sistemas que emplean agentes automatizados.
El informe subraya que, aunque los atacantes experimentan con rapidez, los defensores también incorporan IA para detectar vulnerabilidades, desactivar cuentas abusivas y reforzar salvaguardas. Google menciona el uso de agentes internos para identificar fallos en software y herramientas capaces de corregirlos automáticamente. El panorama actual muestra una convergencia entre automatización, modelos generativos y tácticas tradicionales. La IA no reemplaza las técnicas existentes, pero amplifica la capacidad de los actores para operar a escala, reducir tiempos de desarrollo y aumentar la precisión de sus ataques, al tiempo que exige nuevas estrategias de protección para un ecosistema que evoluciona con rapidez.
Fuente: Blog de Google | Editado por CDOL
