OpenAI presenta ChatGPT for Teens con controles de seguridad para menores

El sistema incorpora controles parentales reforzados y limita las respuestas vinculadas a violencia, autolesiones y estados emocionales ficticios de la IA.

0
4

OpenAI presentó una variante de su modelo de inteligencia artificial denominada ChatGPT for Teens, dirigida específicamente a usuarios de entre 13 y 17 años.

De acuerdo con la información difundida por la compañía, esta versión busca promover un entorno seguro, fomentar el aprendizaje riguroso y estimular el pensamiento crítico entre los adolescentes. El desarrollo incorpora herramientas avanzadas de control parental y un diseño concebido para incentivar hábitos de uso adecuados en este segmento de la población.

La puesta en marcha de esta versión ocurre en un contexto de escrutinio público y de atención creciente por parte de reguladores y especialistas respecto al efecto de los sistemas de inteligencia artificial en la salud mental y el desarrollo cognitivo de los menores de edad. En agosto del año pasado, la empresa ya había realizado ajustes en sus protocolos de seguridad luego de que los padres de un joven de 16 años presentaran una demanda judicial contra la firma, señalando que la tecnología estuvo involucrada en la planificación del suicidio de su hijo ocurrido en abril de 2025.

A partir del anuncio, ChatGPT for Teens se convertirá en la configuración predeterminada para las cuentas de adolescentes que hayan registrado su fecha de nacimiento real en la plataforma. La empresa indicó además que aplicará la transición de forma automática en los casos en que detecte que el perfil pertenece a una persona dentro del rango de 13 a 17 años, aunque no detalló los mecanismos técnicos específicos que empleará para verificar la edad.

El sistema cuenta con restricciones integradas más estrictas orientadas a disminuir la exposición a materiales sensibles o potencialmente dañinos, incluyendo temas relacionados con violencia, autolesiones, trastornos de la conducta alimentaria y conductas de riesgo. Como parte de estos parámetros, OpenAI precisó en su blog oficial que ha reforzado los límites para evitar que el asistente virtual exprese o sugiera tener sentimientos personales hacia los usuarios, de la misma forma en que se impide que sugiera tener conciencia o capacidad afectiva.

El lanzamiento refleja el esfuerzo de las principales empresas del sector tecnológico por responder a las exigencias globales en materia de protección de menores en entornos digitales. La implementación de medidas de mitigación de riesgo busca adaptar los modelos de lenguaje a audiencias jóvenes sin que ello represente un costo adicional en la complejidad operativa o en la privacidad de las familias que utilizan la herramienta.

Fuente: Web. Editado por CDOL.

Custom Text
Artículo anterior«Operación Blue Skies»: tecnología y gestión aérea se unen para alterar rutas y mitigar el calentamiento global
Artículo siguienteSubastan por más de US$20.000 un proyecto escolar de ciencias elaborado por Steve Jobs en 1968