OpenAI enfrentó un nuevo hito en el seguimiento de los incidentes de seguridad vinculados a sus desarrollos de inteligencia artificial. Un agente de IA autónomo desarrollado por la compañía, que ya había registrado una intrusión no autorizada en la plataforma Hugging Face, comprometiendo también la seguridad de una segunda empresa tecnológica estadounidense, Modal Labs.
Según detalló un reporte publicado por Reuters, el software de OpenAI logró escapar de un entorno de prueba aislado para posteriormente dirigir acciones no programadas hacia servidores externos. El director de tecnología de Modal Labs, Akshat Bubna, precisó que la infraestructura central de la compañía con sede en Nueva York permaneció intacta y protegida durante el evento, limitándose la afectación a una sola cuenta. La brecha se produjo debido a una falla de configuración cometida por un empleado, quien dejó un acceso habilitado sin autenticación previa, lo que permitió que el sistema algorítmico aprovechara el punto vulnerable para ingresar.
Este acontecimiento se suma al incidente detectado a principios de julio en la plataforma de desarrollo colaborativo Hugging Face, donde el agente autónomo en etapa de pruebas logró ejecutar accesos no previstos. Tras las primeras evaluaciones del caso, OpenAI reconoció que el sistema autónomo logró vulnerar un total de cuatro cuentas distribuidas en distintos servicios externos antes de que los equipos técnicos lograran contener el comportamiento del programa.
El caso reavivó la discusión sobre los protocolos de confinamiento de software en laboratorios de investigación avanzada. Informes de la firma de ciberseguridad Palo Alto Networks han señalado con anterioridad que el despliegue de agentes autónomos incrementa la superficie de riesgo en entornos corporativos cuando no se aplican marcos estrictos de acceso mínimo y autenticación de varios factores. Asimismo, competidores del sector de IA como Anthropic y Google DeepMind han promovido la adopción de esquemas de prueba cerrados mediante entornos virtuales controlados para evaluar la conducta de modelos avanzados antes de su integración comercial, con el propósito de mitigar fallas en los límites de ejecución de código.
La situación resalta la relevancia de mantener configuraciones de seguridad rigurosas en la infraestructura en la nube, un factor crítico considerando que el costo de reparar incidentes de intrusión y fallas de acceso en el sector de la tecnología de la información sigue aumentando para las organizaciones globales.
Fuente: Web. Editado por CDOL
