Palo Alto Networks ha anunciado el lanzamiento de Prisma AIRS, una plataforma de seguridad de IA concebida para ofrecer una protección robusta del ecosistema de inteligencia artificial en las empresas. Esta nueva solución, que se apoya en la iniciativa Secure AI by Design presentada el año anterior, tiene como objetivo facilitar una implementación segura y proactiva de la IA, respondiendo a la creciente necesidad de seguridad ante su rápida integración en diversos ámbitos empresariales.
En un escenario donde las compañías adoptan aceleradamente aplicaciones y modelos de lenguaje extenso (LLM) de IA en funciones que abarcan desde la atención al cliente hasta la generación de código, impulsando la innovación pero también generando nuevos riesgos y vulnerabilidades, Prisma AIRS se presenta como una plataforma integral para la seguridad de la IA. La solución promete proteger la totalidad del ecosistema de IA, permitiendo a las organizaciones implementar estas tecnologías con la confianza de que sus desarrollos estarán protegidos.
Las funcionalidades clave de Prisma AIRS incluyen:
- Análisis de modelos de IA: Permite la adopción segura de modelos mediante el análisis de posibles vulnerabilidades, protegiendo contra la manipulación, scripts maliciosos y ataques de deserialización.
- Gestión de la postura de seguridad: Ofrece visibilidad sobre los riesgos asociados al ecosistema de IA, como permisos excesivos, exposición de datos sensibles y configuraciones incorrectas.
- Red Teaming de IA: Facilita la identificación proactiva de posibles exposiciones y riesgos mediante pruebas de penetración automatizadas en aplicaciones y modelos de IA, utilizando un agente de Red Teaming que simula ataques reales.
- Seguridad en tiempo de ejecución: Protege aplicaciones, modelos y datos de IA basados en LLM contra amenazas en tiempo real, como la inyección de indicaciones, código malicioso, contenido tóxico, fuga de datos, sobrecarga de recursos y alucinaciones.
- Seguridad de agentes de IA: Ofrece protección para agentes de IA, incluyendo aquellos creados en plataformas low-code o no-code, contra amenazas emergentes como la suplantación de identidad, manipulación de memoria y uso indebido de herramientas.
Lee Klarich, director de producto de Palo Alto Networks, comentó: «Los agentes y las aplicaciones de IA están transformando nuestra manera de trabajar y vivir. Paralelamente, la superficie de ataque no solo se expande, sino que cambia radicalmente. Las organizaciones necesitan la mejor seguridad en su clase, entregada a través de la arquitectura adecuada: la plataformización es esa arquitectura. Prisma AIRS aborda tanto las amenazas tradicionales como las específicas de la IA con capacidades de seguridad de primer nivel, ofrecidas en una plataforma de seguridad de IA integral y unificada que permite a las organizaciones implementar la IA con confianza».
Anand Oswal, vicepresidente sénior y director general de Palo Alto Networks, añadió: «A medida que las organizaciones integran la IA en todos los aspectos de sus operaciones, su seguridad requiere una plataforma en tiempo de ejecución que proporcione visibilidad continua e información en tiempo real. Sin esto, los equipos de seguridad desconocen cómo se utiliza, se utiliza indebidamente o se manipula la IA, lo que pone en riesgo datos y decisiones críticas. Prisma AIRS proporciona a los equipos respuestas a preguntas esenciales, como si alguien está explotando un LLM para extraer información confidencial o si una API comprometida está alimentando el modelo con datos contaminados. Esta información es vital para mantener la confianza y proteger la IA».
Fuente: Palo Alto Networks
