OpenAI está desarrollando un sistema diseñado para identificar automáticamente a los usuarios adolescentes y limitar su uso de ChatGPT, evitando temas delicados como el suicidio. En una publicación de blog, Sam Altman, cofundador de la compañía, afirmó que el chatbot estará equipado con un modo de respuesta apropiado para la edad, que incluye un bloqueo de contenido explícito de naturaleza sexual.
«Priorizamos la seguridad sobre la privacidad y la libertad de los adolescentes», declaró Altman. «Esta es una tecnología nueva y poderosa, y creemos que los menores necesitan una protección significativa. Consideramos que esta es la mejor solución y queremos ser transparentes en nuestras intenciones».
Mecanismos de protección
En casos de malestar, el sistema también podrá contactar a las fuerzas del orden para garantizar la seguridad del usuario. Cuando ChatGPT no pueda estimar con certeza la edad de un interlocutor, configurará automáticamente la conversación en el modo protegido. Además, OpenAI proporcionará a los adultos una forma de verificar su edad y desbloquear todas las funcionalidades de ChatGPT.
La empresa no ha especificado cuándo planea implementar los nuevos sistemas. Este anuncio se produce tras la muerte de Adam Raine, un joven de dieciséis años, considerado el primer adolescente que se suicidó después de que el chatbot supuestamente lo ayudara a planificar su muerte. Inmediatamente después del suicidio, OpenAI prometió lanzar controles diseñados para dar a los padres y tutores un mayor control sobre el uso de ChatGPT por parte de los adolescentes. Ayer, la compañía reiteró su intención de lanzar la actualización «a finales de mes», con opciones para habilitar horarios en los que los menores no podrán usar la IA.
Fuente: OpenAI
