Un grupo de casi 30 países, entre los que se encuentran EE.UU. y China, junto con la Unión Europea (UE), han alcanzado en Bletchley Park un acuerdo pionero en el mundo por el que se establece un entendimiento compartido de las oportunidades y los riesgos que plantea la inteligencia artificial de vanguardia. El acuerdo también reconoce la necesidad de que los gobiernos trabajen juntos para hacer frente a los retos más importantes de la IA.
En la Declaración de Bletchley sobre la seguridad de la IA, 28 países de todo el mundo, incluidos África, Oriente Medio y Asia, coinciden en la urgente necesidad de comprender y gestionar colectivamente los riesgos potenciales a través de un nuevo esfuerzo mundial conjunto para garantizar que la IA se desarrolle y despliegue de forma segura y responsable en beneficio de la comunidad mundial. El acuerdo se anunció en la primera Cumbre sobre la Seguridad de la IA, celebrada en Bletchley Park, cuna emblemática de la informática.
La declaración cumple los objetivos clave de la cumbre al establecer un acuerdo y una responsabilidad compartidos sobre los riesgos, las oportunidades y un proceso de avance para la colaboración internacional en materia de seguridad e investigación en las fronteras de la IA, en particular a través de una mayor colaboración científica, declaró el gobierno británico.
Los países se mostraron de acuerdo en que pueden surgir riesgos sustanciales derivados de un posible uso indebido intencionado o de problemas involuntarios de control de la IA de frontera, con especial preocupación por los riesgos de ciberseguridad, biotecnología y desinformación. La declaración establece el acuerdo de que existe «un potencial de daño grave, incluso catastrófico, ya sea deliberado o involuntario, derivado de las capacidades más significativas de estos modelos de IA». Los países también señalaron los riesgos más allá de las fronteras de la IA, incluidos el sesgo y la privacidad, y la declaración detalla que la mejor forma de abordar los riesgos es a través de la cooperación internacional.
El primer ministro británico celebra el «logro histórico» de abordar los riesgos de la IA
Rishi Sunak, primer ministro del Reino Unido, sostuvo: «Se trata de un logro histórico en el que las mayores potencias mundiales en el ámbito de la IA coinciden en la urgencia de comprender los riesgos de la IA, lo que contribuirá a garantizar el futuro a largo plazo de nuestros hijos y nietos». Bajo el liderazgo del Reino Unido, más de 25 países reunidos en la Cumbre sobre Seguridad de la IA han declarado su responsabilidad compartida de abordar los riesgos de la IA y de impulsar una colaboración internacional vital en materia de seguridad e investigación en las fronteras de la IA, añadió. «El Reino Unido está liderando una vez más el mundo a la vanguardia de esta nueva frontera tecnológica dando el pistoletazo de salida a esta conversación, que nos verá trabajar juntos para hacer que la IA sea segura y obtener todos sus beneficios para las generaciones venideras».
La semana pasada, Sunak anunció que el Reino Unido creará el primer Instituto de Seguridad de la IA del mundo para examinar, evaluar y probar nuevos tipos de IA.
Fuente: CIO Perú
