Un tercio de los chats de menores con IA aborda contenidos sensibles e inapropiados

Investigación: "Los chatbots influyen en los niños, quienes enfrentan las situaciones en silencio y solos".

0
56

El 42% de los niños estadounidenses chatea con la Inteligencia Artificial en busca de compañía. Sin embargo, cerca de un tercio de las conversaciones (37%) termina tratando temas de naturaleza agresiva o con lenguaje explícito para adultos.

Así lo indica una investigación de Aura, plataforma dedicada a la seguridad en línea para menores y familias, según la cual los resultados representan una señal de alarma. Los instrumentos de chat basados en IA se están convirtiendo en una fuerza formativa en el desarrollo emocional y social de los niños, influyendo en cómo piensan y enfrentan las situaciones, a menudo en silencio y en soledad.

Actualmente, las principales compañías desarrolladoras de chatbots trabajan en sistemas que reconozcan el rango de edad de los interlocutores para adaptar el comportamiento y evitar temas sensibles. Según el informe «State of the Youth» de Aura, los menores comienzan a conversar de manera madura con la IA antes de lo que muchos padres esperan. Entre los niños de 11 años que usan la IA para acompañamiento, el 44% lo hace sobre temáticas de hostilidad, mientras que el contenido para adultos es común a los 13 años, apareciendo en el 63% de las conversaciones. A los 16 años ocurre otro cambio importante, cuando el 19% de los chats asume la forma de apoyo emocional.

El 86% de los padres encuestados considera que los niños crecen más rápido en comparación con las generaciones anteriores, y el 34% afirma que sus hijos comienzan a comportarse como adolescentes ya a los 11 o 12 años. Alejar a los menores de los chats no es una tarea sencilla: para el reporte, privar a los niños de un dispositivo provoca frustración (56%) o molestia (50%), y solo el 16% afirma que las consecuencias de esta medida son útiles.

Fuente: Plataforma Aura

Custom Text
Artículo anteriorOmdia: Los ingresos por pantallas transparentes alcanzarán los US$100.2 millones para 2032
Artículo siguienteGoogle puede reconocer los fakes creados con su propia IA