Un estudio advierte sobre la preocupante tendencia de que bases de datos y documentos críticos de las compañías están terminando en plataformas de inteligencia artificial abiertas, lo que incrementa el riesgo de filtraciones de información confidencial y expone a las empresas al cibercrimen.
El riesgo latente en la IA generativa
Aunque la inteligencia artificial está impulsando la productividad en América Latina, su uso por parte de los empleados está generando serios desafíos de ciberseguridad. Claudio Martinelli, director general para las Américas en Kaspersky, alertó que al introducir informes sensibles, documentos oficiales o datos internos en plataformas de IA generativa para agilizar sus tareas, los colaboradores están compartiendo información con sistemas públicos que no garantizan ni la privacidad ni la protección de los datos. Esta práctica podría derivar en una fuga masiva de información confidencial.
Martinelli enfatizó que el problema reside en que algunos empleados están utilizando la inteligencia artificial sin inteligencia humana, delegando demasiado a la herramienta. El experto subrayó la necesidad de que las empresas comprendan los riesgos, protejan la confidencialidad y entrenen a su personal sobre el uso adecuado de estas tecnologías.
La indexación de conversaciones y datos sensibles
El temor de las compañías se intensifica con la reciente detección de que algunos sistemas de IA generativa tienen la capacidad de indexar las conversaciones que sostienen con los usuarios en ciertos buscadores web. Esta situación ha dejado expuestos chats personales sobre temas íntimos, lo que abre la posibilidad de que también se registren y expongan las consultas que los empleados realizan a estas plataformas utilizando información sensible de la empresa.
Recomendaciones de Kaspersky para el despliegue seguro de la IA
Para que las organizaciones puedan desarrollar e implementar sistemas de Inteligencia Artificial de forma segura, los expertos de Kaspersky ofrecen las siguientes recomendaciones clave:
Capacitar a los empleados en ciberseguridad: Es fundamental proporcionar formación continua en seguridad digital a todos los colaboradores, utilizando herramientas especializadas.
Modelado de amenazas y evaluación de riesgos: Antes de la implementación, se aconseja identificar los posibles escenarios de ataque y medir su impacto para anticipar incidentes.
Seguridad de la infraestructura y la nube: Las configuraciones seguras y el monitoreo constante son esenciales para evitar que los actores maliciosos exploten vulnerabilidades técnicas.
Asegurar la cadena de suministro: Las empresas deben garantizar que sus proveedores mantengan altos estándares de ciberseguridad.
Pruebas y validación de los sistemas: Los modelos y aplicaciones de IA deben someterse a evaluaciones periódicas para verificar su funcionamiento y confiabilidad.
Reportes de vulnerabilidades periódicos: Es necesario contar con mecanismos transparentes para notificar y gestionar fallas con rapidez.
Defensa contra ataques específicos a modelos de aprendizaje automático: Implementar medidas de protección especializadas es crucial para preservar la integridad de estos modelos.
Asegurar actualizaciones: Mantener el software y la infraestructura con parches de seguridad actualizados es una práctica fundamental.
Cumplir con estándares internacionales: La adopción de marcos normativos globales en ciberseguridad y protección de datos no solo asegura el cumplimiento legal, sino que también genera confianza.
Fuente: Kaspersky
