OpenAI planea utilizar GPT-4 para construir un sistema de moderación de contenidos

OpenAI utilizará GPT-4 para crear un sistema de moderación de contenidos. Esto refleja el modo de abordar los retos que plantean los contenidos digitales.

0
22

En un movimiento innovador, OpenAI ha aprovechado la potencia de su modelo GPT-4 para ser pionera en una nueva era de moderación de contenidos que promete escalabilidad, coherencia y personalización. Dado que la moderación de contenidos es un reto constante para las plataformas digitales, el enfoque innovador de OpenAI pretende agilizar el proceso, pero no sin reconocer el papel indispensable de la participación humana.

La moderación de contenidos ha sido durante mucho tiempo una cuestión compleja, que requiere el delicado equilibrio de determinar qué contenidos deben permitirse en las distintas plataformas en línea. La GPT-4 de OpenAI ha surgido como un actor clave para abordar este reto, ofreciendo la capacidad no sólo de tomar decisiones de moderación de contenidos, sino también de contribuir a la formulación y rápida iteración de políticas. Esto podría reducir potencialmente el ciclo de actualización de las políticas de meses a meras horas.

OpenAI afirma que GPT-4 puede descifrar los entresijos de las políticas de contenidos, adaptándose instantáneamente a cualquier modificación. El resultado, según la empresa, es un etiquetado más coherente y preciso de los contenidos, lo que aporta una visión positiva para el futuro de las plataformas digitales. Según Lilian Weng, Vik Goel y Andrea Vallone, de OpenAI, «la IA puede ayudar a filtrar el tráfico en línea según las normas específicas de cada plataforma y aliviar la carga mental de un gran número de moderadores humanos.

No hay que subestimar el papel de la IA para aliviar la carga psicológica de los moderadores humanos. El impacto en la salud mental de la revisión manual de contenidos angustiosos ha sido motivo de preocupación, lo que ha llevado a Meta, entre otros, a compensar a los moderadores por los problemas de salud mental derivados de la revisión de material gráfico. La implementación de la IA por parte de OpenAI pretende compartir la carga, ofreciendo herramientas asistidas por IA para llevar a cabo aproximadamente seis meses de trabajo en un solo día.

Sin embargo, OpenAI es consciente de las limitaciones de los modelos de IA. Aunque muchos gigantes tecnológicos ya han incorporado la IA a sus procesos de moderación, ha habido casos en los que las decisiones sobre contenidos tomadas por la IA han salido mal. La empresa reconoce que la GPT-4 no es infalible y que la supervisión humana sigue siendo esencial. El reconocimiento de «sesgos no deseados» y errores potenciales es un aspecto crítico que requiere una revisión humana continua. Vallone, del equipo de políticas de OpenAI, subraya la importancia de mantener a los humanos «en el bucle» para validar y refinar los resultados.

El enfoque de OpenAI es un paso hacia una coexistencia más armoniosa entre la IA y los moderadores humanos. Al confiar a GPT-4 los aspectos rutinarios de la moderación de contenidos, los moderadores humanos pueden centrar su experiencia en abordar casos complejos que requieren una comprensión matizada. Se prevé que la colaboración entre IA y humanos conduzca a políticas de contenidos más eficientes y completas, reduciendo los riesgos asociados a los escollos relacionados con los contenidos a los que se han enfrentado otras empresas.

Fuente WEB | Editado por CambioDigital OnLine

Custom Text
Artículo anteriorGartner: La IA generativa tendrá un profundo impacto en las empresas y la sociedad
Artículo siguienteLos profesionales de la seguridad ven más cerca un futuro sin contraseñas