OpenAI aclaró que su política no permite que las herramientas se utilicen para hacer daño, desarrollar armas, vigilar las comunicaciones, o para herir a otros o destruir propiedades, pero sí lo permite en casos para fines de seguridad nacional que se alinean con su misión.
OpenAI ha modificado discretamente su política de uso, eliminando la prohibición de utilizar su tecnología para el «desarrollo de armas» y «fines militares y bélicos». En su reescrita política se afirmaba que se habían introducido cambios en el documento para hacerlo «más claro» y «más legible». Desde entonces, la palabra «más claro» se ha sustituido por «orientaciones añadidas específicas para cada servicio».
Los cambios salieron a la luz por primera vez a través de un informe de The Intercept, que señalaba que los cambios en la política de uso de OpenAI se realizaron por primera vez el 10 de enero. El informe señalaba que la política original de uso de OpenAI incluía la prohibición de utilizar la tecnología para cualquier «actividad que entrañe un alto riesgo de daño físico», incluido el «desarrollo de armas» y «actividades militares y bélicas».
Sin embargo, la nueva política de OpenAI, aunque mantiene la frase «utilizar nuestro servicio para dañarse a sí mismo o a otros», suprime la prohibición anterior de utilizar su tecnología con fines militares y bélicos. Además, la empresa sigue prohibiendo el uso de su tecnología para el «desarrollo de armas».
En una declaración sobre la política citada por TechCrunch, la startup de IA dijo: «Nuestra política no permite que nuestras herramientas se utilicen para dañar a las personas, desarrollar armas, para la vigilancia de las comunicaciones, o para dañar a otros o destruir la propiedad. Sin embargo, existen casos de uso para la seguridad nacional que encajan con nuestra misión. Por ejemplo, ya estamos trabajando con DARPA para impulsar la creación de nuevas herramientas de ciberseguridad que protejan el software de código abierto del que dependen las infraestructuras críticas y la industria.»
«No estaba claro si estos casos de uso beneficiosos habrían sido permitidos bajo «militar» en nuestras políticas anteriores. Así que el objetivo de nuestra actualización de la política es proporcionar claridad y la capacidad de tener estas discusiones», añade el comunicado.
La preocupación por los efectos adversos de la IA, especialmente en la guerra y otras causas relacionadas, ha sido motivo de inquietud para muchos expertos de todo el mundo. Estas preocupaciones no han hecho sino exacerbarse con el lanzamiento de tecnologías de IA generativa como ChatGPT de OpenAI, Bard de Google y el resto, que han ampliado los límites de lo que la IA puede lograr.
En una entrevista concedida a la revista Wired el año pasado, el ex CEO de Google Eric Schmidt comparó los sistemas de inteligencia artificial con la aparición de las armas nucleares antes de la Segunda Guerra Mundial. Schmidt dijo: «De vez en cuando aparece una nueva arma, una nueva tecnología que cambia las cosas… Einstein escribió una carta a Roosevelt en los años 30 en la que le decía que había una nueva tecnología (las armas nucleares en ese caso) que podía cambiar la guerra, y claramente lo hizo. Y yo me atrevería a decir que la autonomía [impulsada por la IA] y los sistemas descentralizados y distribuidos son así de poderosos».
Fuente WEB | Editado por CambioDigital OnLine
