Esta es la alarma que han lanzado los líderes del sector. Una carta abierta firmada por más de 350 directivos y difundida por la organización sin ánimo de lucro Center for AI Safety afirma que «mitigar el riesgo de extinción» que plantea la inteligencia artificial «debería ser una prioridad junto con otros riesgos sociales como las pandemias y las guerras nucleares».
Entre los firmantes de la carta se encuentran el CEO de OpenAI, Sam Altman, el número uno de Google DeepMind, Demis Hassabis, y el líder de Anthropic, Dario Amodei.
«Mitigar el riesgo de extinción de la inteligencia artificial debería ser una prioridad mundial, junto con otros riesgos a escala social como las pandemias y la guerra nuclear», es la declaración publicada en la página web del Center for AI Safety, una organización estadounidense de expertos activos en este campo.
Geoffrey Hinton, uno de los padres de la IA, también apoyó el llamamiento. Entre los firmantes había también algunos italianos, como el físico Roberto Battiston, de la Universidad de Trento, y Luca Simoncini, ex profesor de Ingeniería de la Información en la Universidad de Pisa y ex director del Instituto de Tecnología de la Información del Consejo Nacional de Investigación.
«No se trata de la amenaza de una superinteligencia que pueda arrollar a la humanidad, sino de las consecuencias del modo en que los seres humanos se acostumbrarán a utilizar estos algoritmos en su trabajo y en su vida cotidiana en sociedad», afirma Battiston.
Pensemos, por ejemplo», añade, «en la posible interferencia en los procesos electorales, la difusión de noticias falsas, la creación de canales de noticias que respondan a intereses precisos de desinformación». Por ello, «tenemos que estar preparados para manejar estas situaciones, los primeros indicios de problemas de este tipo ya los hemos visto en años pasados con el caso Cambridge Analytica o las tácticas de guerrilla de los trolls rusos en la red».
«El uso extensivo de la inteligencia artificial, por un lado, está dando lugar a una auténtica revolución y, por otro, está planteando graves problemas», señala Simoncini. «La inteligencia artificial es tan omnipresente que tiene un fuerte impacto en muchos ámbitos de la vida social (basta pensar en el riesgo de producción de noticias falsas o en el control de los coches autónomos), así como en aspectos económicos, financieros, políticos, educativos y éticos», señala el experto. Es evidente», añade, «que nadie puede oponerse si una tecnología emergente se utiliza con fines beneficiosos, por ejemplo en el ámbito biomédico o farmacológico. Por consiguiente, si hablar de riesgo de extinción de la humanidad puede parecer una hipérbole, según Simoncini, la declaración del Cias recuerda el manifiesto en el que Bertrand Russell y Albert Einstein denunciaron los riesgos de las armas nucleares en 1955.
Fuente: Web. Editado por CambioDigital OnLine
