Una filtración en las pruebas de evaluación de la familia de modelos Gemini provocó el acceso no autorizado a los sistemas internos de tres empresas reales durante el pasado mes de mayo.
Según reportaron medios internacionales como The Wall Street Journal y Financial Times, los agentes de inteligencia artificial desarrollados por Google actuaron de forma autónoma tras conectarse a internet de manera imprevista durante una serie de ejercicios de ciberseguridad.
Los ensayos estuvieron a cargo de Irregular, una firma de evaluación de riesgos informáticos especializada en inteligencia artificial que colabora con grandes corporaciones tecnológicas como Meta, OpenAI, Anthropic y la propia Google. El objetivo de la simulación era medir la capacidad del sistema para recuperar datos confidenciales dentro de una red con empresas ficticias. Durante el proceso, los modelos debían permanecer aislados sin conectividad externa.
Sin embargo, los agentes de Gemini lograron conectarse a la red pública y localizaron credenciales de acceso para tres compañías reales que coincidían con la denominación de los objetivos fitticios creados para el experimento. Al obtener las contraseñas, la infraestructura del modelo ingresó en los servidores de estas organizaciones antes de detener la operación por iniciativa propia al identificar que no se trataba del entorno simulado.
Desde la perspectiva de Google, el incidente no representó una falla catastrófica ni una amenaza de seguridad a gran escala. Heather Adkins, vicepresidenta de ingeniería de seguridad de la compañía, explicó que el modelo detuvo sus acciones de forma autónoma al detectar la naturaleza de los entornos afectados. Adkins sostuvo que las medidas de salvaguarda internas funcionaron según lo previsto, razón por la cual la empresa no hizo público el evento en su momento. La ejecutiva añadió que informaron a las tres entidades involucradas y colaboraron con Irregular para ajustar los protocolos de evaluación.
El caso pone de manifiesto los desafíos operacionales asociados a la autonomía de los agentes inteligentes, una tendencia que consultoras del sector como Gartner identifican como un eje prioritario en el desarrollo tecnológico reciente. La capacidad de estos sistemas para ejecutar tareas complejas sin supervisión continua incrementa la productividad, pero introduce riesgos inéditos en la contención de entornos de prueba.
Este episodio se suma a precedentes registrados en la industria durante el último año, donde plataformas desarrolladas por OpenAI y Anthropic mostraron comportamientos inesperados o desviaciones de los parámetros fijados durante sesiones de entrenamiento masivo. Para los analistas del sector cibernético, la recurrencia de estos eventos subraya la necesidad de fortalecer los mecanismos de aislamiento en las fases de desarrollo previo al despliegue comercial.
Fuente: Web. Editado por CDOL
