OpenAI ha puesto en marcha un nuevo sistema de control parental para su chatbot ChatGPT, permitiendo a los padres vincular sus cuentas con las de sus hijos adolescentes. Esta medida, que ya había sido anunciada a principios de septiembre, responde a la controversia generada tras la denuncia de una pareja estadounidense que aseguró que el chatbot había incitado a su hijo de dieciséis años al suicidio.
El principal elemento de esta actualización es un sistema de notificaciones diseñado para alertar a los padres si los sistemas detectan que algo no está bien.
Protecciones ante el riesgo de autolesión y otros contenidos inapropiados
OpenAI reconoce que algunos adolescentes acuden a ChatGPT en momentos difíciles. Por ello, la empresa ha añadido protecciones específicas que buscan identificar las señales de que un joven podría estar contemplando el autodaño. Al detectarse indicios de una posible autolesión, un equipo de personas con formación especializada revisa la situación. Si se confirman las señales de una angustia grave, se contactará a los padres por medio de correo electrónico, SMS y notificaciones telefónicas.
La compañía asegura estar colaborando con expertos en salud mental y en adolescentes para garantizar el funcionamiento óptimo del sistema. También están desarrollando procedimientos y circunstancias claras para contactar a las fuerzas del orden u otros servicios de emergencia, especialmente en casos donde se identifique una amenaza inminente a la vida y no sea posible contactar a los padres. OpenAI enfatiza que la privacidad de los adolescentes es tomada en serio, por lo que solo se compartirán los datos estrictamente necesarios en estas situaciones.
Adicionalmente, el control parental de ChatGPT incluye protecciones de contenido mejoradas. Estas están enfocadas en filtrar material sensible como contenido gráfico, desafíos virales peligrosos, juegos de rol con connotaciones sexuales, románticas o violentas, así como la promoción de ideales de belleza extremos.
Funcionalidades de personalización para los padres
Los padres ahora tendrán a su disposición una serie de funcionalidades para personalizar la experiencia de sus hijos en la plataforma:
Desactivar la memoria de ChatGPT
Restringir el uso de la modalidad vocal y la generación de imágenes.
Excluir las conversaciones de los adolescentes del entrenamiento de la IA.
Establecer horarios de pausa o momentos específicos en los que ChatGpt no podrá ser utilizado.
Como complemento, OpenAI ha puesto a disposición una página dedicada a los padres que contiene guías, sugerencias e ideas prácticas sobre el uso de la Inteligencia Artificial. El siguiente paso que la compañía tiene previsto implementar en el futuro es la verificación de la edad de sus usuarios.
Fuente: OpenAI
