Un nuevo estudio sugiere que los modelos de Inteligencia Artificial (IA) también pueden experimentar el fenómeno conocido como Brain Rot, término que el Diccionario Oxford definió como la palabra del año 2024 para describir el deterioro intelectual resultante del consumo compulsivo de contenido en línea de baja calidad, particularmente aquel que circula en redes sociales.
La investigación, llevada a cabo por la Universidad de Texas en Austin y la Universidad de Purdue, se centró en dos modelos lingüísticos de gran escala de código abierto: Llama de Meta y Qwen de la china Alibaba.
«Vivimos en una era donde la información crece más rápido que la atención, y gran parte de ella está diseñada para capturar clics, no para transmitir profundidad. Nos preguntamos qué sucede cuando las IA son entrenadas con contenido basura», explicó Junyuan Hong, profesor de la Universidad Nacional de Singapur que colaboró en el estudio.
Para simular este efecto, Hong y sus colegas alimentaron los modelos lingüísticos con diversos tipos de texto, observando el resultado cuando se les exponía a publicaciones con frases sensacionalistas o diseñadas para captar clics, tales como «wow», «mira» o «solo por hoy».
Los resultados mostraron que las plataformas experimentaron una especie de brain rot digital, manifestado en un declive cognitivo, una reducción de la capacidad de razonamiento y una memoria degradada. Además, los modelos se volvieron menos alineados éticamente y mostraron tendencias que los investigadores describieron como «psicóticas».
Hong enfatizó la relevancia de estos hallazgos para la industria, dado que los desarrolladores de modelos de IA a menudo parten de la suposición de que las publicaciones en redes sociales son una fuente de datos adecuada para el entrenamiento. El investigador advirtió que «entrenar a las IA con contenido viral o que atrae la atención puede parecer una operación de ampliación de datos, pero puede corroer el razonamiento, la ética y la atención» de los modelos.
Fuente: Web. Editado por CDOL.
