Meta ha comunicado su intención de modificar la gestión de la moderación de contenidos en sus plataformas sociales mediante un mayor uso de la IA. Como parte de esta estrategia, la empresa también desplegará el asistente de soporte Meta AI en Facebook e Instagram.
La compañía reducirá el número de moderadores humanos externos en los próximos años, confiando el monitoreo a sistemas basados en modelos lingüísticos de gran tamaño. Según una nota oficial, la empresa busca reducir la dependencia de proveedores terceros para el control de contenidos y enfocarse en el fortalecimiento de sus sistemas internos. Meta añade que la IA es capaz de comprender el 98% de los idiomas utilizados en línea, lo que supera ampliamente su cobertura previa de aproximadamente 80 lenguas, permitiéndole entender incluso el argot y los matices lingüísticos de diversas subculturas.
Esta misma tecnología se utilizará para aumentar la seguridad de los usuarios. Entre sus funciones principales destaca la reducción de estafas diseñadas para obtener credenciales de acceso, el bloqueo de cuentas falsas de celebridades y la aceleración en la detección de publicaciones que violen las normas sobre contenidos sexuales que involucren a menores.
Los revisores humanos no serán eliminados por completo, pero sus tareas serán redefinidas. Los colaboradores que permanezcan en estas áreas se encargarán del diseño, el entrenamiento y la evaluación de los sistemas de IA. Meta subraya que el personal seguirá desempeñando un papel clave en los procesos de toma de decisiones más críticos y de alto riesgo, como las apelaciones contra la desactivación de cuentas o las denuncias ante las fuerzas del orden.
En paralelo, la empresa anunció el lanzamiento de una función de Meta AI destinada a ayudar a las personas que necesiten acceder a sus cuentas de Facebook e Instagram. Este servicio estará disponible las 24 horas del día, comenzando por Estados Unidos y Canadá. La sociedad dirigida por Mark Zuckerberg concluye que pronto expandirán este servicio a otros países y a diferentes tipos de problemas relacionados con el acceso a las cuentas.
Fuente: Meta
