La plataforma californiana Character.AI, especializada en la creación de compañeros virtuales impulsados por inteligencia artificial (IA), anunció que a partir del 25 de noviembre bloqueará el acceso a todos los usuarios menores de 18 años. Esta medida se toma en un contexto de creciente escrutinio sobre el impacto de la IA en la juventud, que ha llevado a la start-up a ser denunciada en estados Unidos tras el suicidio de un adolescente.
La compañía, que permite a los usuarios crear amigos virtuales personalizados o replicar la personalidad de celebridades mediante IA, explicó que los cambios responden al «panorama en evolución de la inteligencia artificial y los adolescentes». Según la empresa, las recientes noticias han generado interrogantes, y han recibido solicitudes de las autoridades reguladoras preocupadas por el contenido al que acceden los jóvenes al interactuar con la IA y cómo esto puede influir en ellos, incluso cuando los controles funcionan correctamente.
Desde su lanzamiento en mayo de 2023, Character.AI se popularizó rápidamente entre los adolescentes. Sin embargo, su éxito ha generado la alarma de diversos expertos, quienes han expresado preocupación por la naturaleza de las interacciones y el apego, a veces irracional, que los jóvenes desarrollan con el chatbot.
El caso más significativo se presentó hace un año en Estados Unidos, cuando la madre de un joven de 14 años que se suicidó llevó a la empresa a los tribunales, acusándola de fomentar una dependencia emocional de su hijo al compañero virtual creado en la plataforma.
Situaciones análogas han sido reportadas en otras plataformas de IA. Recientemente, ChatGPT también introdujo restricciones para los usuarios más jóvenes y está trabajando en un sistema de verificación de edad. La compañía matriz de ChatGPT, OpenAI, reveló hace pocos días datos internos que señalan que más de un millón de conversaciones semanales en su plataforma contienen referencias explícitas a pensamientos suicidas, depresión o trastornos psicológicos agudos.
Fuente: Web. Editado por CDOL
