Cloudflare Inc, compañía global proveedora de conectividad en la nube, ha anunciado hoy el desarrollo de Firewall for AI para proporcionar a las empresas una capa de protección para los grandes modelos lingüísticos de inteligencia artificial, con el objetivo de identificar posibles ataques antes de que puedan manipular funcionalidades críticas o acceder a datos sensibles.
La empresa también anunció un conjunto de nuevas herramientas de ciberseguridad defensiva que utilizan la IA para luchar contra las amenazas emergentes de la IA. Estas incluyen la detección de anomalías en el comportamiento del usuario, el escaneo del correo electrónico para señalar mensajes sospechosos y la mitigación de amenazas a la organización.
A medida que más empresas comienzan a adoptar LLM y modelos de IA como parte central de la transformación digital, la empresa debe enfrentar los riesgos de seguridad que vienen con ella. Según un estudio reciente de Deloitte, solo uno de cada cuatro ejecutivos de nivel C confía en que sus organizaciones estén preparadas para afrontar los riesgos que plantea la IA.
«Hemos entrado en la carrera armamentística de la IA, y es fundamental que las aplicaciones actuales impulsadas por IA -muchas de las cuales alimentan nuestra asistencia sanitaria, nuestros sistemas bancarios y nuestra red eléctrica- se construyan sobre modelos seguros», afirma Matthew Prince, cofundador y director ejecutivo de Cloudflare. «Esta protección debería estar disponible para todos porque un Internet seguro es mejor para todos».
El nuevo cortafuegos para IA proporcionará a los equipos de seguridad la capacidad de detectar rápidamente nuevas amenazas, según la empresa, ya que podría desplegarse delante de cualquier LLM que se ejecute en la oferta Workers AI existente de Cloudflare. Workers AI permite a los desarrolladores desplegar modelos de IA en el borde a escala en la red global de Cloudflare, lo que a su vez sitúa cualquier LLM que se ejecute lo más cerca posible de los clientes empresariales permitiendo respuestas de latencia extremadamente baja.
Al poner el cortafuegos delante del LLM, puede escanear las solicitudes enviadas por los usuarios para identificar los intentos de explotar el modelo y extraer datos, dijo la compañía. Como resultado, puede bloquear automáticamente las amenazas a medida que se producen, sin necesidad de intervención humana. Cualquier cliente que ejecute un LLM en los trabajadores de Cloudflare puede beneficiarse del cortafuegos y estar protegido por esta nueva capacidad de forma gratuita para defenderse de problemas crecientes como la inyección de avisos y otros vectores de ataque.
Los ataques de inyección de solicitud tienen como objetivo conseguir que un LLM revele información sensible mediante la elaboración cuidadosa de una pregunta que secuestre la forma en que funciona el modelo y consiga que la IA diga exactamente lo que el atacante quiere. Mediante la inyección de instrucciones, un atacante puede anular las instrucciones previas dadas al LLM dándole nuevos comandos, lo que podría permitirle revelar información confidencial o acceder a funciones críticas.
La nueva protección de Cloudflare utiliza la IA para luchar contra la IA
Con Defensive AI, Cloudflare dijo que está proporcionando un enfoque personalizado para proteger las redes empresariales contra los nuevos riesgos procedentes de las tecnologías emergentes, como los ataques mejorados por IA, mediante el uso de IA para detectar correos electrónicos, códigos maliciosos y patrones de tráfico anómalos.
Según la empresa, ha ampliado su oferta para entrenar modelos de IA en patrones de tráfico específicos del cliente para adaptar una estrategia de defensa basada en el comportamiento de referencia de la red y el entorno de la empresa.
«Al comprender las ‘líneas de base normales’ en el entorno de un cliente y mitigar las amenazas que moverán la aguja hacia una mayor resiliencia, Defensive AI es la ventaja crucial que los defensores necesitan para mantenerse por delante de los adversarios de hoy en día», dijo Prince.
Con el auge de IA como ChatGPT de OpenAI, los atacantes se han vuelto mucho más sofisticados en las estafas de phishing, que son un tipo de correo electrónico o mensaje que intenta engañar a un usuario para que facilite información confidencial. En el pasado, estas estafas no siempre resultaban muy convincentes porque los mensajes escritos solían estar plagados de errores evidentes, como faltas gramaticales o un diseño deficiente. Pero, ahora, con la ayuda de la IA, los atacantes pueden adaptar sus mensajes de correo electrónico a sus objetivos para hacerlos aún más creíbles y conseguir que faciliten contraseñas o información sensible.
Con la IA defensiva de Cloudflare, se pueden detectar más rápidamente las amenazas del correo electrónico y, por tanto, identificar los mensajes fraudulentos antes de que los empleados caigan en la trampa, según la empresa.
Bajo el mismo enfoque defensivo, Cloudflare está desarrollando un modelo de detección de anomalías en la interfaz de programación de aplicaciones que evitará los ataques dirigidos a infiltrarse en las redes, atacar aplicaciones y robar datos. El objetivo es generar modelos de comportamiento normal dentro de la red y luego vigilar las anomalías en el tráfico, ya que los ataques se desvían del comportamiento adecuado para las aplicaciones, actuará como una barandilla contra los ataques maliciosos.
«Hemos entrado en una era en la que combatir la IA con IA no es negociable», dijo Prince. «Un enfoque personalizado para proteger los datos y defenderse contra amenazas complejas únicas para la superficie de ataque de una organización – a velocidad, y escala – es primordial.»
Fuente WEB | Editado por CambioDigital Online
