Miles de conversaciones entre usuarios y ChatGPT han aparecido en los resultados de búsqueda de Google. Este incidente no se debe a un ciberataque, sino a la «indexación» de los mensajes, una función que los usuarios activaban voluntariamente al crear enlaces públicos de sus chats.
El sitio web FastCompany fue el primero en descubrir las aproximadamente 4.500 conversaciones, señalando que, aunque los nombres de los usuarios estaban ocultos, los chats a menudo contenían información personal que podía ser utilizada para identificar a las personas. De hecho, el portal TechCrunch logró identificar el perfil de un usuario de LinkedIn a través de una de estas conversaciones.
Tras la revelación, OpenAI ha decidido desactivar la función que permitía indexar los chats en los motores de búsqueda. Un directivo de la compañía, Dane Stuckey, comentó en X que se trató de «un experimento de corta duración diseñado para ayudar a las personas a descubrir conversaciones útiles».
Este hallazgo es especialmente preocupante si se considera que casi la mitad de los estadounidenses ha utilizado modelos de lenguaje para buscar apoyo psicológico en el último año.
Apenas unos días antes, Sam Altman, CEO de OpenAI, había desaconsejado el uso de ChatGPT como terapeuta. En un podcast con Theo Von, Altman explicó que «todavía no hemos descubierto cómo funciona la confidencialidad con ChatGPT», a diferencia del secreto profesional que existe entre un médico y su paciente o entre un abogado y su cliente.
Fuente: OpenAI
