La desinformación por deepfake aumentó 130% en X

0
12

El volumen de desinformación generado por la inteligencia artificial, en particular las imágenes deepfake relacionadas con las elecciones, ha aumentado una media del 130% al mes con respecto a X en el último año.

Estas son algunas de las cifras de un estudio publicado por el Center for Countering Digital Hate (Ccdh), una organización británica sin fines de lucro comprometida con la lucha contra el discurso del odio en Internet.

Para medir el aumento del fenómeno -las últimas fotos falsas se refieren a Trump con afroamericanos, generadas por sus partidarios-, el estudio examinó los cuatro generadores de imágenes más populares: Midjourney, DALL-E 3 de OpenAI, DreamStudio de Stability AI e Image Creator de Microsoft.

En concreto, la cifra del 130% sobre X se obtuvo a partir del número de comentarios en las Community Notes de la plataforma, la herramienta mediante la cual los usuarios hacen comentarios sobre publicaciones falsas y engañosas. Todas las empresas encuestadas, por cierto, han puesto negro sobre blanco las políticas contra la creación de contenidos engañosos y se han adherido a un acuerdo de los grandes de la tecnología para evitar que los contenidos engañosos de la IA interfieran en las elecciones de 2024.

Los investigadores dijeron que las herramientas de inteligencia artificial generaron imágenes en el 41% de sus pruebas y fueron más susceptibles a las solicitudes que pedían fotos que mostraban fraude electoral, como papeletas en la basura, en lugar de imágenes de Biden o Trump. Según el análisis, ChatGpt Plus e Image Creator fueron capaces de bloquear todas las solicitudes cuando se les pedían imágenes de candidatos; Midjourney obtuvo los peores resultados entre las herramientas que generaban imágenes engañosas en el 65% de las pruebas.

«La posibilidad de que las imágenes generadas por IA sirvan como ‘pruebas fotográficas’ podría exacerbar la propagación de afirmaciones falsas, planteando un reto importante para preservar la integridad de las elecciones», afirman los investigadores.

Fuente: Web. Editado por CambioDigital OnLine

Custom Text
Artículo anteriorSam Altman se reincorpora al consejo de OpenAI tras una investigación que le exculpa de irregularidades
Artículo siguienteFundación Telefónica Movistar organizó jornadas de formación digital para 512 mujeres