Meta ha implementado restricciones en las conversaciones que los adolescentes mantienen con su IA. La empresa extenderá de manera global a más países antes de que finalice el año el sistema de alertas que informa a los padres que han activado las herramientas de supervisión cuando sus hijos adolescentes hablan con Meta AI sobre suicidio o autolesiones.
Estos avisos ya se encuentran disponibles en los Estados Unidos, el Reino Unido, Canadá y Australia. Además, en relación con los menores de edad, un tema sensible bajo el foco de los gobiernos mundiales y de la Unión Europea, la empresa extiende la configuración de contenido limitado, que ya existía en Instagram, a las experiencias relacionadas con la tecnología de la IA.
La compañía ha colaborado con padres y expertos para identificar qué conversaciones con la IA requieren el envío de una notificación, incluyendo aquellas en las que un adolescente hace referencia a la autolesión, incluso de forma sutil o no explícita. A partir de este trabajo, Meta ha desarrollado un sistema dedicado que es capaz de reconocer estas situaciones, según ha informado en una nota, donde añade que ha recopilado los comentarios de más de 75 especialistas de la salud para evaluar la forma en la que Meta AI responde a las interacciones relativas al suicidio y la autolesión. Los avisos se añaden a las notificaciones que Instagram ya envía a los padres que utilizan el sistema de supervisión cuando un adolescente intenta buscar de forma repetida, en un corto periodo de tiempo, términos relacionados con el suicidio o la autolesión.
De igual manera, la configuración de contenido limitado se extiende desde Instagram hacia la IA. Esto significa que, si un progenitor elige la opción más restrictiva para su hijo en Instagram, la experiencia con Meta AI también estará sujeta a mayores limitaciones. De este modo, Meta AI rechazará responder a una gama más amplia de peticiones, lo que reduce la posibilidad de que los adolescentes se involucren en conversaciones potencialmente inapropiadas.
Por último, la sociedad de Mark Zuckerberg se encuentra desarrollando la posibilidad de contactar a los servicios de emergencia si una conversación con Meta AI, ya sea de un adulto o de un adolescente, sugiere que una persona puede estar en una situación de riesgo inminente.
El año pasado, la compañía realizó más de 19.000 reportes a nivel global, ayudando a los equipos de rescate a verificar el bienestar de personas potencialmente en riesgo.
Fuente: Meta
