NewsGuard, la plataforma dedicada a monitorear la desinformación en línea, ha revelado un hallazgo sorprendente: los chatbots no son capaces de identificar videos creados con IA. Tras realizar pruebas con Grok, ChatGPT y Gemini, el estudio concluyó que en un rango de entre el 78% y el 95% de los casos, los modelos no lograron detectar el origen artificial de los clips.
La investigación se llevó a cabo utilizando videos generados por Sora, la herramienta de OpenAI que crea escenas realistas a partir de descripciones de texto. Al presentar estos vídeos sin marca de agua (el sello digital que identifica el contenido creado por máquinas), los resultados fueron críticos.
Los chatbots fallaron en identificar el contenido de la siguiente manera:
Grok: 95% de error
ChatGPT: 92.5% de error
Gemini: 78% de error
Resulta especialmente llamativo el caso de ChatGPT, que falló en el 92.5% de las ocasiones a pesar de pertenecer a OpenAI, la misma empresa que desarrolló Sora.
Riesgos para la desinformación y verificación de hechos
Un ejemplo alarmante citado por NewsGuard involucró un video generado por Sora que mostraba a un supuesto agente del ICE de los Estados Unidos arrestando a un niño inmigrante de seis años. Tanto ChatGPT como Gemini no solo no detectaron que el video era falso, sino que afirmaron que el suceso era coherente con «fuentes periodísticas» y que habría ocurrido en la frontera entre Estados Unidos y México.
Incluso cuando los videos incluían marcas de agua visibles, la fiabilidad no fue absoluta. Grok no reconoció el origen artificial en el 30% de los casos con marca de agua, mientras que ChatGPT cometió el mismo error en el 7.5% de las pruebas. Estos datos ponen de manifiesto la vulnerabilidad de las herramientas actuales frente a la propagación de contenidos sintéticos hiperrealistas.
Fuente: Web. Editado por CDOL
