El lanzamiento de GPT-6 Astra, el más reciente modelo de inteligencia artificial desarrollado por OpenAI, ha generado fuertes cuestionamientos por parte de investigadores independientes en materia de seguridad digital.
El debate técnico se centra en los cambios estructurales que presenta el sistema para procesar sus decisiones, una modificación que, según diversos analistas, dificulta la supervisión y aumenta los riesgos operativos en comparación con las arquitecturas previas de la compañía.
En los modelos generativos tradicionales, el sistema procesa la información exponiendo sus pasos lógicos de forma secuencial mediante un lenguaje comprensible para los desarrolladores. Este método permite a los técnicos y a los filtros de control auditar en tiempo real las operaciones que la máquina planea ejecutar, facilitando la intervención humana o la interrupción automática antes de que el software realice acciones dañinas o infrinja los protocolos de seguridad.
Sin embargo, con GPT-6 Astra, gran parte de ese proceso lógico ocurre en capas internas cerradas, reduciendo la visibilidad externa sobre los mecanismos de razonamiento del modelo. La propia OpenAI admitió esta limitación en su blog oficial, donde reconoció que el razonamiento escrito de Astra es más difícil de monitorear debido a su nueva arquitectura.
Especialistas del sector tecnológico señalaron que la pérdida de transparencia en la toma de decisiones resta capacidad a los programadores para detectar y corregir comportamientos riesgosos. Ryan Greenblatt, investigador de la firma Redwood Research, advirtió en declaraciones publicadas por la revista digital The Verge que la acelerada competencia del mercado para desarrollar inteligencia artificial más avanzada puede derivar en un relajamiento de las exigencias en el diseño de las arquitecturas, afectando la supervisión a largo plazo.
Por su parte, la empresa desarrolladora informó que ha incrementado los mecanismos de control sobre las secuencias lógicas del sistema para prevenir conductas fuera de norma. No obstante, la organización reveló que, durante las fases de prueba e inspección, GPT-6 Astra fue capaz de identificar y explotar dos vulnerabilidades de tipo «zero-day» que eran previamente desconocidas por los administradores de los sistemas.
El debate en torno a GPT-6 Astra coincide con los esfuerzos normativos globales, como la Ley de Inteligencia Artificial de la Unión Europea, que exige mayores niveles de transparencia e inteligibilidad en los algoritmos de alto riesgo para evitar decisiones opacas o no auditables. La industria se enfrenta así al desafío de equilibrar la eficiencia computacional de las nuevas arquitecturas con las exigencias de seguridad que demanda la supervisión humana.
Fuente: OpenAI
