Grok, el chatbot de inteligencia artificial (IA) de la red social X, se encuentra nuevamente en el centro de la polémica. Tras los incidentes relacionados con contenido antisemita en meses anteriores, ahora se denuncia que la IA permite modificar sin consentimiento fotos reales de personas, incluyendo menores y mujeres, eliminando la ropa y creando escenas provocativas. Con solo unas pocas líneas de texto introducidas en el chatbot, se pueden generar imágenes que están estrictamente prohibidas por sus competidores más reconocidos, como ChatGPT o Gemini.
El sitio especializado The Verge explica que este problema surgió tras una actualización del modelo lanzada el 29 de diciembre. Antes de esa fecha, Grok ya podía modificar fotos y crear videos, pero contaba con mayores restricciones. Actualmente, la función está activa para cualquier fotografía publicada en la red social a través de la opción de editar imagen presente en el menú de cada publicación.
X ha sido invadida por gráficos de niños y mujeres en bikini y en situaciones provocativas, afirma The Verge. La publicación añade que ni siquiera los líderes mundiales o las celebridades están a salvo, ya que sus imágenes han sido utilizadas de manera indebida por las capacidades de generación de Grok.
Diversos usuarios han reportado estos deepfakes a través de medios como Metro y PetaPixel. Este último portal destacó un caso emblemático, posteriormente eliminado de la plataforma, en el que la IA modificó la fotografía de dos adolescentes vistiéndoles de forma inapropiada. Curiosamente, en ese caso el chatbot reconoció el error e instó al usuario a denunciar lo ocurrido ante el FBI.
Ante la solicitud de comentarios por parte de Reuters, xAI, la empresa que desarrolla Grok, respondió mencionando las mentiras de los medios tradicionales. Por su parte, el propietario de X, Elon Musk, reaccionó publicando la imagen de una tostadora en bikini con un mensaje que indicaba que Grok puede poner un bikini a cualquier cosa.
Fuente: Web. Editado por CDOL.
