Es innegable: la IA generativa está transformando la forma en que consumimos información. Ya sea en imágenes, noticias o ensayos, la IA está presente. Si bien identificar el contenido generado por IA puede ser complicado, OpenAI trabaja en una solución: marcar con agua los textos, como ya se hace con las imágenes.
Poner una marca de agua a las imágenes es increíblemente sencillo y es una práctica que ya se utiliza ampliamente. El texto, sin embargo, es un poco diferente, pero eso no quiere decir que no haya un interés y un impulso para encontrar una manera de hacer que el texto generado por IA sea más fácil de identificar.
OpenAI ha actualizado una entrada de su blog sobre el tema de las marcas de agua y ha revelado los avances que ha realizado para que sea posible comprobar la procedencia del texto. Existen varios enfoques posibles para hacer que el texto sea rastreable y comprobable, como los clasificadores, las marcas de agua y los metadatos. Cada uno tiene sus ventajas y desventajas, y OpenAI se está concentrando en la investigación de metadatos y marcas de agua.
De hecho, la empresa ya ha desarrollado un método de marca de agua en texto, pero no está exento de problemas. Este fin de semana, OpenAI explica su trabajo en un artículo actualizado del que se ha hecho eco The Wall Street Journal y del que informa TechCrunch:
Si bien ha sido muy preciso e incluso eficaz contra la manipulación localizada, como la paráfrasis, es menos robusto contra la manipulación globalizada, como el uso de sistemas de traducción, la reformulación con otro modelo generativo, o pedir al modelo que inserte un carácter especial entre cada palabra y luego elimine ese carácter, lo que lo hace trivial a la elusión por parte de malos actores.
Otro riesgo importante que estamos sopesando es que nuestra investigación sugiere que el método de marca de agua de texto tiene el potencial de afectar desproporcionadamente a algunos grupos. Por ejemplo, podría estigmatizar el uso de la IA como herramienta de escritura útil para los hablantes no nativos de inglés.
Aunque la idea de la marca de agua en el texto pueda parecer compleja, OpenAI la ve como una posibilidad de futuro. La empresa afirma que «hay características de los metadatos que harían este enfoque especialmente prometedor». Sin embargo, aún no está claro cómo funcionaría en el mundo real.
Fuente WEB | Editado por CambioDgital OnLine
