La Eurocámara ha dado luz verde a la AiAct, el texto que contiene las nuevas normas de la UE sobre inteligencia artificial, incluida la prohibición total del uso de tecnologías de reconocimiento biométrico con inteligencia artificial en tiempo real en lugares públicos.
La Cámara de Estrasburgo aprobó con 499 votos a favor, 28 en contra y 93 abstenciones la primera normativa mundial diseñada para que tecnologías como ChatGPT respeten las leyes y valores fundamentales de la UE y para combatir la discriminación digital y evitar la desinformación y el uso de «deep fakes».
La enmienda del PPE que pedía la inclusión de excepciones en la AiAct, el texto que consagra las nuevas normas de la UE para la inteligencia artificial, para permitir el uso de cámaras de reconocimiento facial en las calles y fronteras de la UE por razones de seguridad nacional o en casos de niños desaparecidos, fue rechazada.
Las normas siguen un planteamiento basado en el riesgo y establecen obligaciones para los proveedores y operadores de sistemas de IA en función del nivel de riesgo que puedan generar.
Los sistemas de IA que presenten un nivel de riesgo inaceptable para la seguridad de las personas, como los utilizados para el scoring social (clasificar a las personas según su comportamiento social o sus características personales), quedarán por tanto prohibidos.
Los eurodiputados, en comparación con el texto inicial, ampliaron la lista para incluir prohibiciones sobre usos intrusivos y discriminatorios de la IA, como: el uso de sistemas de identificación biométrica a distancia «en tiempo real» y «a posteriori» en espacios de acceso público; los sistemas de categorización biométrica basados en características sensibles (por ejemplo, sexo, raza, etnia, ciudadanía, religión u orientación política); los sistemas policiales predictivos (basados en la elaboración de perfiles, la ubicación o el comportamiento delictivo anterior) sistemas de reconocimiento de emociones utilizados por las fuerzas del orden, la gestión de fronteras, el lugar de trabajo y las instituciones educativas; y la extracción no selectiva de datos biométricos de Internet o de grabaciones de CCTV para crear bases de datos de reconocimiento facial (en violación de los derechos humanos y del derecho a la intimidad).
El texto aprobado por el PE estipula que la clasificación de aplicaciones de alto riesgo también incluye los sistemas de IA que causen daños significativos a la salud, la seguridad, los derechos humanos fundamentales o el medio ambiente. Los sistemas de inteligencia artificial utilizados para influir en los votantes y en el resultado de las elecciones y los sistemas de recomendación utilizados por las plataformas de medios sociales (con más de 45 millones de usuarios) se añadieron a la lista de alto riesgo.
Los sistemas de IA generativa que se basan en este tipo de modelos, como ChatGPT, según el texto, deben cumplir requisitos de transparencia (declarando que el contenido ha sido generado por IA), ayudando también a distinguir las llamadas imágenes deep-fake de las reales, y proporcionar salvaguardas para evitar la generación de contenidos ilegales. También deberán publicarse resúmenes detallados de los datos protegidos por derechos de autor utilizados para el entrenamiento.
Fuente: Web. Editado por CambioDigital OnLine
