Google da un paso importante en la lucha contra la desinformación y la manipulación de imágenes al introducir marcas de agua digitales para las fotos editadas con la inteligencia artificial generativa de Magic Editor. La nueva función, que se lanza estos días, pretende facilitar a los usuarios la identificación de imágenes que han sido alteradas utilizando la herramienta «reimaginar» de Magic Editor.
El pasado mes de abril, la Gran G había abierto el uso del editor en la aplicación Google Fotos a todo el mundo, incluidos los propietarios de iPhone. Con esta opción, es posible eliminar o añadir elementos verosímiles en una imagen, con el riesgo, no obstante, de crear contenido engañoso. La tecnología que hay detrás de la marca de agua es SynthID, un sistema desarrollado por el equipo DeepMind de Google, que incrusta una etiqueta digital de metadatos directamente en la imagen, lo que permite identificar si ha sido creada o modificada mediante herramientas de IA generativa. La misma marca de agua ya se utiliza en las fotos creadas con el modelo Imagen de Google, que también utiliza el chatbot Gemini para generar gráficos.
Otras empresas especializadas, como Adobe, han decidido apostar por sistemas similares para marcar las obras creadas o editadas con sus apps. Tanto Adobe como Google son miembros de la Coalition of Content Provenance and Authority (C2pa), una asociación que pretende crear directrices y estándares compartidos para mejorar la transparencia de las fotos y vídeos producidos por la inteligencia artificial.
En una nota oficial, Google explica que la marca de agua no altera visiblemente la imagen y sólo puede identificarse mediante una herramienta específica de detección de IA. En el menú «Acerca de esta imagen» de Google Fotos, también es posible ver que la imagen ha sido alterada mediante Magic Editor’s Reimagine, además de mostrar información adicional sobre el gráfico, como la fecha de origen del primer archivo.
Fuente: Google
