YouTube ha comenzado a implementar una nueva herramienta de detección de videos generados por inteligencia artificial, conocidos como deepfakes, para los miembros de su programa de socios. Esta herramienta se había anunciado el año pasado y busca abordar la creación de contenido no autorizado.
La empresa, que forma parte de Alphabet (la matriz de Google), ha denominado a esta funcionalidad «detección de similitudes» (likeness detection). Su propósito es permitir a los usuarios reportar casos en los que su rostro haya sido utilizado o modificado por inteligencia artificial sin su consentimiento para producir un video.
YouTube ilustra el problema señalando situaciones como: «Alguien ha creado un video en el que parece que usted está apoyando a un candidato político» o «un anuncio publicitario que promociona un producto del que usted no sabe nada». En estos escenarios, el afectado podrá utilizar la herramienta para señalar posibles coincidencias y solicitar una revisión.
Este anuncio se produce pocos días después de que el modelo Sora 2 de OpenAI fuera objeto de críticas por ser utilizado por usuarios en Estados Unidos y Canadá para generar videos con figuras públicas ya fallecidas, como Robin Williams y Martin Luther King. Las familias de ambos han solicitado formalmente a la startup estadounidense que integre nuevas medidas de seguridad en su software para prevenir resultados similares.
Específicamente, el sistema de YouTube requiere que los usuarios envíen un documento de identidad y un breve video selfie para verificar su identidad. Una vez verificados, podrán solicitar que se analice la autenticidad del material publicado. En caso de que se confirme una violación de las normas, el contenido verificado será retirado de la plataforma.
Técnicamente, según el sitio especializado Engadget, la funcionalidad opera de manera similar al sistema Content ID de YouTube, que se utiliza actualmente para identificar y, si es necesario, eliminar material de audio con copyright en el fondo de los videos.
Fuente: YouTube
