OpenAI y Anthropic, entre las principales sociedades de Inteligencia Artificial, prueban medidas para identificar a los usuarios menores de edad, en un clima de creciente debate mundial sobre el uso de los chatbots y, en general, de la tecnología por parte de los menores de 18 años, tras la reciente restricción de Australia sobre las redes sociales.
La sociedad madre de ChatGPT, según informa el sitio especializado The Verge, ha actualizado «Model Spec», el conjunto de líneas guía sobre el comportamiento de la IA lanzado en mayo de 2024, para incluir cuatro nuevos indicadores diseñados para los usuarios menores de edad. Definidos como «U18», estos principios tienen el objetivo de «poner la seguridad de los adolescentes en primer lugar», incluso cuando esta pueda verse cuestionada por lo que OpenAI define como la «máxima libertad intelectual».
En su propio blog, OpenAI delinea el nuevo rumbo de ChatGPT, que pretende «promover el apoyo del mundo real, fomentar las relaciones offline y los recursos de confianza, y tratar a los adolescentes como tales, sin ser condescendiente ni considerarlos adultos». También su rival, Anthropic, se está moviendo en esta dirección. A diferencia de su competidor, esta sociedad ya prohíbe expresamente el uso de la IA por parte de menores y está desarrollando un nuevo sistema capaz de detectar «señales conversacionales que indiquen cuándo un usuario podría ser menor de edad». Una vez identificado un usuario menor de 18 años, la sociedad bloqueará la conversación incluyendo el correo electrónico de registro en una lista negra.
«Cualquiera que use nuestras herramientas debe declarar que tiene al menos 18 años. Si alguien miente, reportaremos y desactivaremos las cuentas», afirma Anthropic.
Fuente: Web. Editado por CDOL.
