OpenAI, la empresa detrás del popular chatbot ChatGPT, está trabajando en la implementación de filigranas visibles para identificar las imágenes generadas por su inteligencia artificial. Esta medida, descubierta por el desarrollador informático Tibor Blaho en una versión de prueba de ChatGPT para Android, busca distinguir claramente el contenido creado por la IA.
Según una entrevista de Blaho con el sitio Bleeping Computer, esta decisión responde al notable éxito de la función de creación de imágenes integrada en ChatGPT, especialmente utilizada para generar personajes con un estilo similar al del renombrado Studio Ghibli. La introducción de estas marcas visuales se presenta como una estrategia para abordar la creciente proliferación de imágenes generadas por IA y, al mismo tiempo, incentivar las suscripciones de pago a la plataforma.
La clave de esta estrategia reside en que, aparentemente, los usuarios que cuenten con una suscripción a ChatGPT tendrán la opción de eliminar estas filigranas visibles de sus creaciones. En contraste, aquellos que utilicen la versión gratuita de la herramienta verán estas marcas de agua de forma permanente en las imágenes generadas. Este enfoque busca claramente impulsar la conversión de usuarios gratuitos a planes de pago, ofreciendo la eliminación de la filigrana como un beneficio exclusivo para los suscriptores.
Sin embargo, aún queda por definir la implementación precisa de estas filigranas. Tibor Blaho señala la incertidumbre sobre la ubicación y el formato de la marca de agua. OpenAI podría optar por una marca repetida a lo largo de la imagen, similar a las utilizadas por plataformas de venta de arte digital, o simplemente colocarla en una esquina del archivo, lo que facilitaría su eliminación con herramientas de edición básicas.
Es importante destacar que esta iniciativa de OpenAI se alinea con las prácticas de otros gigantes tecnológicos en el campo de la IA generativa. Rivales como Google Gemini y Meta AI ya incorporan filigranas visibles en forma de logotipos discretamente ubicados en las esquinas de las imágenes generadas por sus modelos. Incluso Google implementó, en febrero, filigranas digitales invisibles en imágenes modificadas con IA como medida para combatir la propagación de deepfakes. Estas filigranas digitales no alteran la apariencia de la imagen y solo pueden ser detectadas mediante software especializado.
Tanto OpenAI como Google forman parte de la Coalition of Content Provenance and Authority (C2PA), una organización que busca establecer directrices y estándares comunes para mejorar la transparencia en el ámbito de la inteligencia artificial y la procedencia del contenido digital. La implementación de filigranas visibles por parte de OpenAI representa un paso concreto hacia una mayor claridad en la identificación del contenido generado por IA, aunque la efectividad de esta medida dependerá en gran medida de su diseño final y la facilidad con la que pueda ser eludida.
Fuente: OpenAI
