ESET prepara nuevas capas de seguridad para el uso empresarial de IA

La estrategia combina automatización y supervisión humana frente a riesgos como la Shadow AI, la exposición de datos y las acciones no previstas de agentes inteligentes.

0
37

ESET Latinoamérica llevó a cabo el webinar titulado Blindando la IA: Cómo proteger la nueva frontera de ataques, en el que la compañía destacó la incorporación de nuevas funciones de seguridad para acompañar el uso empresarial de la inteligencia artificial, con foco en los riesgos que aparecen cuando empleados, aplicaciones y agentes autónomos interactúan con modelos generativos.

«ESET busca cubrir desde la detección de amenazas en conversaciones con asistentes hasta el monitoreo de comportamientos que podrían comprometer datos o procesos internos», dijo Leonardo Granados, Especialista de Producto de ESET Latam.

La estrategia incluye herramientas como ESET AI Security, AI Agent Security, AI Behavioral Monitoring y LiveCortex. Esta última opera como una capa de correlación: reúne eventos de seguridad, les aporta contexto y ayuda a distinguir cuáles ameritan la atención de un analista. La idea no es reemplazar al equipo de seguridad, sino reducir el volumen de alertas repetitivas y concentrar el trabajo humano en incidentes con mayor impacto potencial.

Uno de los problemas que ESET busca atender es la inyección de prompts. En términos simples, consiste en introducir instrucciones diseñadas para que un modelo de IA ignore sus reglas, revele información o realice una acción para la que no fue configurado. Puede ocurrir en un chat, pero también de forma menos visible: un agente puede leer una página web, procesar un documento o interpretar código con instrucciones maliciosas ocultas. Si ese agente tiene permisos para conectarse a otros sistemas, el alcance del incidente puede crecer.

Otra parte de la propuesta apunta a los intercambios cotidianos con herramientas de IA. La empresa plantea revisar archivos, enlaces y scripts que circulan en esas conversaciones. Un asistente puede sugerir una URL de phishing, recomendar código vulnerable o procesar un archivo comprometido; por eso, la inspección se integra como una capa adicional antes de que esos elementos lleguen a ejecutarse o compartirse dentro de una organización.

También aparece la preocupación por la Shadow AI, un fenómeno cada vez más común en compañías donde los empleados usan asistentes generativos sin que el área de tecnología o seguridad tenga visibilidad sobre ello. El problema no necesariamente está en usar IA, sino en hacerlo sin criterios claros sobre qué datos pueden ingresarse, qué servicios están habilitados y cómo se controlan los resultados. Un documento interno, una base de clientes o un fragmento de código pueden terminar fuera de los canales previstos si no existen políticas y controles adecuados.

ESET señala que las funciones más sensibles de su arquitectura se apoyarán en tecnología propia, mientras que algunas tareas menos críticas podrían incorporar modelos de terceros. La empresa anunció en mayo una inversión de 40 millones de euros para ampliar su equipo de investigación y desarrollo, crear modelos fundacionales orientados a ciberseguridad y avanzar en un centro de operaciones de seguridad asistido por IA.

La compañía sitúa estas novedades dentro de una trayectoria que, según afirma, comenzó en 1998 con el uso de redes neuronales para detección de amenazas. De ese desarrollo surgieron tecnologías como DNA Detection y LiveGuard, un entorno aislado en la nube donde se analizan archivos sospechosos antes de que lleguen al usuario.

El desafío, en cualquier caso, excede a las herramientas. A medida que la IA se integra en tareas de redacción, programación, análisis y automatización, los equipos de seguridad deben definir qué información puede ser compartida, qué permisos reciben los agentes y dónde debe mantenerse la revisión humana. La ciberseguridad empieza a involucrar no solo los sistemas que protegen a la organización, sino también las decisiones que los modelos pueden tomar dentro de ella.

Fuente: CDOL

Custom Text
Artículo anterior#Canaemte2026: Conatel pone la formación humana en el centro del debate sobre IA y telecomunicaciones
Artículo siguienteEl mercado de memorias de nueva generación apunta a US$15.630 millones en 2030