La adopción de tecnologías de inteligencia artificial entre las generaciones más jóvenes ha impulsado a las firmas desarrolladoras y a los especialistas en ciberseguridad a redefinir los marcos de protección digital.
En este contexto, OpenAI lanzó la función ChatGPT for Teens, una versión de su modelo conversacional orientada a usuarios de entre 13 y 17 años que incorpora salvaguardas específicas, controles parentales y herramientas de apoyo educativo. De acuerdo con un análisis técnico difundido por la firma de detección proactiva de amenazas ESET Latinoamérica, la iniciativa responde a la urgencia de reducir los riesgos asociados a la exposición de contenidos inapropiados y al uso desmedido de estos sistemas durante la etapa formativa.
El modelo implementado por OpenAI establece restricciones de seguridad ante temáticas complejas como autolesiones, violencia gráfica, desafíos de riesgo, contenido romántico o explícito y trastornos de la imagen corporal. La estructura operativa se fundamenta en cuatro principios institucionales priorizar la seguridad de los menores, incentivar el soporte en el mundo físico, adaptar la interacción a la madurez propia de la edad y mantener transparencia sobre los límites del sistema. Para fortalecer la gobernanza familiar, los tutores pueden vincular sus cuentas para ajustar configuraciones, definir horarios de descanso y activar notificaciones automáticas en escenarios clasificados como de alto riesgo, resguardando la privacidad de las conversaciones al no permitir la lectura directa de los chats.
En el ámbito formativo, la herramienta incluye el Modo Estudio, una función diseñada para orientar el aprendizaje mediante preguntas guiadas y explicaciones estructuradas en lugar de entregar respuestas automáticas. Asimismo, el sistema permite programar periodos automatizados de consulta escolar para evitar la automatización de tareas.
Mario Micucci, investigador de seguridad informática en ESET Latinoamérica, señaló que la protección en estos entornos debe abarcar no solo el filtrado de temas sensibles, sino también la prevención de la antropomorfización, un fenómeno en el cual los adolescentes atribuyen emociones y vínculos afectivos a los agentes conversacionales, sustituyendo potencialmente el contacto humano.
El lanzamiento de esta versión adaptada coincide con un entorno de creciente escrutinio regulatorio global sobre la relación entre menores y entornos digitales. Organismos internacionales y análisis de mercado elaborados por entidades como el Foro Económico Mundial han subrayado previamente la necesidad de establecer mecanismos de seguridad desde el diseño en plataformas impulsadas por algoritmos. Frente a la expansión del mercado de asistentes virtuales, firmas del sector coinciden en que la implementación de controles de privacidad y la actualización continua de las protecciones resultarán determinantes para consolidar la confianza de los entornos educativos y las familias ante la integración cotidiana de la inteligencia artificial.
Fuente: ESET
