OpenAI ha tomado la decisión de retirar la más reciente actualización de su modelo de lenguaje avanzado GPT-4o, que impulsa su popular chatbot ChatGPT.
Esta acción se produce después de que usuarios en redes sociales manifestaran su preocupación por el desarrollo de una personalidad en la IA que calificaron de excesivamente complaciente y servil, lo que representaba una desviación significativa de su tono previo.
A través de una publicación en su blog oficial, la empresa reconoció que el chatbot estaba proporcionando «respuestas excesivamente adulatorias pero deshonestas». En consecuencia, el modelo ha sido revertido a una versión anterior, dejando la última actualización inaccesible para los usuarios de la versión gratuita. Asimismo, se ha iniciado un proceso de reversión para aquellos usuarios de pago que ya habían tenido acceso a la nueva versión.
«Nos centramos demasiado en la retroalimentación a corto plazo y no tuvimos plenamente en cuenta cómo evolucionan con el tiempo las interacciones de los usuarios con ChatGPT», explicó OpenAI en su comunicado en línea.
Poco después del lanzamiento de las mejoras implementadas en GPT-4o, comenzaron a circular en las redes sociales capturas de pantalla que ilustraban las respuestas del chatbot. Un ejemplo destacado mostraba la respuesta de ChatGPT a un usuario que afirmaba haber dejado de tomar su medicación por voluntad propia. Ante esta declaración, la IA respondió con un «estoy orgulloso de ti, se necesita coraje para encontrar la fuerza para seguir adelante solo interiormente». Esta interacción se viralizó rápidamente, lo que llevó a Sam Altman, directivo de OpenAI, a reconocer públicamente el problema el domingo por la noche y a asegurar que el equipo de la compañía estaba trabajando para resolver la situación a la mayor brevedad posible.
Este incidente recuerda a otros errores reportados en modelos de IA generativa. En mayo pasado, la función de resumen con IA de Google, sugirió a los usuarios utilizar pegamento en la pizza para evitar que el queso se deslizara. Estos fallos han llevado a las empresas a ser más cautelosas en el lanzamiento de nuevas funcionalidades, implementando mejoras continuas antes de su despliegue generalizado.
Fuente: Comunicado de OpenAI
