Inestabilidad social, manipulación de masas, delincuencia a gran escala y guerras libradas con máquinas autónomas: estos son algunos de los graves riesgos a los que nos enfrentamos mientras los líderes mundiales hacen demasiado poco.
La voz de alarma, dirigida a líderes y empresas, la lanzan 25 de los principales expertos mundiales en IA de EE.UU., China, Europa y Reino Unido, encabezados por Yoshua Bengio, de la Universidad de Montreal (Canadá), en una carta publicada en Science antes de la próxima cumbre internacional sobre seguridad de la IA, que se celebrará en Seúl los días 21 y 22 de mayo.
«En la última cumbre sobre IA, el mundo estuvo de acuerdo en que necesitamos actuar, pero ahora es el momento de pasar de vagas propuestas a compromisos concretos», afirma Philip Torr, de la Universidad de Oxford y uno de los autores del estudio. «Este documento ofrece muchas recomendaciones importantes sobre lo que las empresas y los gobiernos deberían comprometerse a hacer», añadió.
Según los 25 autores de la carta, el mundo de los responsables políticos y las grandes empresas está haciendo demasiado poco ante los rápidos avances de la IA, que plantean problemas de seguridad cada vez más graves en muchos ámbitos. En pocos años podrían abrirse escenarios catastróficos, en particular sobre la estabilidad social, la vigilancia omnipresente, la manipulación masiva, los ciberdelitos a gran escala y, por último, la facilitación de sistemas de guerra automatizados.
Por lo tanto, es imperativo aumentar en gran medida la inversión en seguridad, hoy casi inexistente, hasta el punto de que no existen mecanismos ni instituciones capaces de impedir los abusos, y exigir a las grandes empresas de IA que den prioridad a la seguridad y demuestren que sus sistemas no pueden causar daños, trasladando la carga de demostrar la seguridad a los desarrolladores de IA.
Fuente: Web. Editado por CambioDigital OnLine
