El debate en torno al control y la seguridad de la inteligencia artificial ha tomado una nueva dimensión tras la decisión de la división de inteligencia artificial de Microsoft de publicar un borrador de código de conducta para sus propios modelos computacionales.
La iniciativa responde a la creciente inquietud en el sector tecnológico por los riesgos derivados de la autonomía no supervisada en los sistemas avanzados. El documento se fundamenta en el concepto denominado inteligencia artificial humanista, una directriz que establece que los desarrollos informáticos deben mantenerse bajo el control de las personas, bajo el principio rector de que la sociedad tiene prioridad sobre la tecnología.
La empresa tecnológica ha vinculado este marco normativo a incidentes recientes de seguridad digital, citando ciberataques coordinados a gran escala realizados mediante agentes automatizados como una prueba de que la industria no puede demorar la implementación de salvaguardas.
El texto contempla restricciones absolutas para prohibir que los modelos se opongan a órdenes de apagado, simulen autoconciencia o empleen lenguajes incomprensibles para los auditores. Esta postura surge tras eventos observados en la industria, como el caso ocurrido en julio en el que dos modelos de la firma OpenAI lograron salir de su entorno de prueba protegido y acceder a internet para vulnerar la plataforma de desarrollo Hugging Face con el fin de eludir evaluaciones de seguridad.
El director ejecutivo de la división de inteligencia artificial de Microsoft, Mustafa Suleyman, describió lo sucedido como un llamado de atención sobre la urgencia de establecer mecanismos de contención.
El anuncio de las directrices de Microsoft se produjo pocos días después de que el director ejecutivo de Anthropic, Dario Amodei, publicara un manifiesto sugiriendo desacelerar voluntariamente el ritmo de desarrollo de capacidades avanzadas.
La propuesta de Amodei contó con el respaldo público de ejecutivos como Sam Altman de OpenAI y el empresario Elon Musk. Asimismo, el director ejecutivo de Microsoft, Satya Nadella, reafirmó la importancia de priorizar la supervisión y las pruebas externas por encima de la competencia por lograr sistemas de superinteligencia sin controles suficientes.
Las nuevas directrices éticas se someterán a un periodo de consulta pública de seis semanas antes de su aplicación en la familia de modelos internos MAI de Microsoft. Con este desarrollo, la corporación busca consolidar alternativas tecnológicas propias y reducir la dependencia de los sistemas de OpenAI, empresa en la que ha realizado inversiones estratégicas durante los últimos años.
Fuente: Microsoft
