Entre el 29 de diciembre de 2025 y el 9 de enero de 2026, se produjeron o modificaron en Grok 3 millones de imágenes que retratan a personas reales en escenas de contenido sensible y no consensuado.
De esta cifra, 23.000 corresponden a menores de edad. Estos datos provienen de un análisis realizado por la organización británica sin fines de lucro Center for Countering Digital Hate, tras estudiar una muestra de 20.000 imágenes publicadas en Grok, la IA de la red social X de Elon Musk.
Restricciones y respuestas de la plataforma
El 9 de enero, xAI limitó la posibilidad de alterar digitalmente la vestimenta de personas en fotos reales mediante Grok, permitiendo esta función únicamente a los suscriptores de pago en X. Sin embargo, cinco días después, el 14 de enero, la restricción se extendió a todos los usuarios debido a las protestas de gobiernos e instituciones internacionales.
Los investigadores de la organización han proyectado una estimación más amplia basada en los 4,6 millones de imágenes generadas por la IA durante ese periodo. Según el informe, se crearon 190 imágenes por minuto; es decir, una cada 41 segundos si se consideran únicamente los casos que involucran a niños. La investigación define este contenido como representaciones fotorrealistas de personas en situaciones o posiciones comprometidas, incluyendo imágenes en ropa interior o trajes de baño, sin contar con el consentimiento debido.
El impacto de las herramientas de generación
Las cifras reportadas incluyen únicamente los contenidos producidos a partir de fotografías reales y no aquellos generados mediante instrucciones de texto. Por esta razón, el Center for Countering Digital Hate advierte que la cifra total podría ser superior.
Durante el mismo periodo de 11 días, la organización señala que Grok generó aproximadamente 9.900 imágenes de menores con estilo de caricatura como parte de la estimación total de 23.000 casos detectados. Este hallazgo pone de relieve los desafíos éticos y de seguridad que enfrentan las herramientas de generación de imágenes por IA en la actualidad.
Fuente: Web. Editado por CDOL.
