Google anunció la implementación de actualizaciones globales en su IA, Gemini, enfocadas en la salud mental y la seguridad de los usuarios jóvenes. Estas medidas responden a un debate internacional sobre el impacto de la tecnología en el bienestar emocional, una preocupación compartida por diversos gobiernos en todo el mundo.
Una de las principales incorporaciones es el módulo denominado «Puedes Pedir Ayuda». Desarrollado en colaboración con expertos clínicos, este sistema se activa si la conversación con la IA indica que el usuario atraviesa una situación de vulnerabilidad emocional. Además, se ha introducido una interfaz de un solo toque que facilita la conexión inmediata con líneas de asistencia para emergencias.
En apoyo a estas iniciativas, la organización Google.org destinará un financiamiento de US$ 30 millones durante los próximos tres años a nivel global para sostener el funcionamiento de diversas líneas de ayuda.
Protecciones específicas para usuarios menores de edad
La compañía ha diseñado herramientas de seguridad particulares para los menores, orientadas a evitar el acceso a contenidos peligrosos y garantizar respuestas útiles. Entre las nuevas normativas destacan las protecciones sobre la personalidad de Gemini, que impiden que la herramienta se presente como un ser humano, un compañero de confianza o que afirme poseer atributos antropomórficos.
Estas medidas buscan prevenir la dependencia emocional mediante la eliminación de un lenguaje que simule intimidad o exprese necesidades personales por parte del sistema. Asimismo, se han reforzado los protocolos para evitar el incitamiento al acoso, el bullying o cualquier otra forma de molestia digital.
Límites de la asistencia tecnológica
A través de un comunicado oficial, Google aclaró que, aunque Gemini puede ser una herramienta de información y aprendizaje, no sustituye la asistencia clínica profesional, la terapia o el soporte de emergencia.
El modelo ha sido entrenado para identificar situaciones críticas de salud mental y responder de manera apropiada, dirigiendo al usuario hacia recursos de ayuda en el mundo real. Los equipos de ingeniería, seguridad y especialistas clínicos de la empresa mantienen como prioridad el enfoque en los hechos y la realidad, evitando confirmar convicciones erróneas y priorizando siempre las relaciones humanas sobre la interacción con la IA.
Fuente: Google
