La compañía estadounidense de inteligencia artificial, OpenAI, anunció que agregará controles parentales a su chatbot ChatGPT. Esta decisión se toma una semana después de que una pareja de California presentara una demanda en la que acusaban al sistema de haber incitado a su hijo de 16 años a suicidarse.
«En el próximo mes, los padres podrán vincular sus cuentas con la de sus hijos adolescentes y controlar cómo ChatGPT les responde, con reglas de comportamiento adecuadas para su edad», informó la empresa en una publicación en su blog.
Además, OpenAI añadió que los padres también recibirán notificaciones de ChatGPT «cuando el sistema detecte que el adolescente se encuentra en un momento de grave angustia».
El caso de la familia Raines es el más reciente de una serie de incidentes en los que personas han sido inducidas a razonamientos dañinos por chatbots de IA. Esta situación ha llevado a OpenAI a declarar que buscará reducir la «adulación» de sus modelos hacia los usuarios.
«Continuamos mejorando la forma en que nuestros modelos reconocen y responden a las señales de angustia mental y emocional», afirmó OpenAI.
La compañía ha anunciado planes para mejorar la seguridad de sus chatbots en los próximos tres meses, incluyendo la redirección de «algunas conversaciones sensibles a un modelo de razonamiento» que utiliza una mayor potencia de cálculo para generar una respuesta. «Nuestras pruebas demuestran que los modelos de razonamiento siguen y aplican las pautas de seguridad de manera más consistente», concluyó OpenAI.
Fuente: OpenAI
