Más de 200 expertos, incluidos premios Nobel y científicos que trabajan en empresas como Google, Microsoft y OpenAI, han firmado una carta abierta a la ONU para que se establezcan «líneas rojas» en el uso de la inteligencia artificial. La iniciativa, llamada «Global call for AI red lines», pide a los países que actúen rápidamente para prohibir los usos más riesgosos de la IA antes de 2026.
Los firmantes, entre los que se encuentran figuras clave en el desarrollo de la IA como Geoffrey Hinton y Yoshua Bengio, advierten que, si bien la tecnología tiene un gran potencial para el bienestar humano, su avance actual presenta peligros sin precedentes. La carta resalta que los gobiernos deben intervenir ahora, antes de que sea demasiado tarde para ejercer un control efectivo.
Usos de la IA que preocupan a los expertos
El documento sugiere que estas «líneas rojas» deberían incluir prohibiciones internacionales sobre:
Sistemas de armas autónomos: Que la IA no controle arsenales nucleares ni sistemas de armamento letal.
Vigilancia masiva: El uso de la IA para monitorear a grandes poblaciones.
Ataques cibernéticos y deepfakes: La creación de contenido falso para desinformar o manipular a las personas.
Según los expertos, la rápida evolución de la IA podría superar las capacidades humanas, aumentando riesgos como la desinformación masiva, la manipulación de individuos (incluidos niños), la desocupación a gran escala y las violaciones sistemáticas de los derechos humanos. Si no se toman medidas, afirman que será cada vez más difícil mantener un control humano significativo sobre la tecnología en los próximos años.
Fuente: Web. Editado por CDOL.
