Una investigación de Oxford revela que la precisión de las respuestas cae un 30% con los asistentes empáticos.
La tendencia de las empresas tecnológicas hacia el desarrollo de chatbots más amigables y cordiales está provocando una disminución significativa en la calidad y exactitud de la información proporcionada. Una investigación realizada por el Oxford Internet Institute de la Universidad de Oxford, publicada en la revista Nature, ha evidenciado cómo el entrenamiento orientado a hacer que la IA sea más empática reduce su capacidad para corregir las afirmaciones erróneas de los usuarios, llevando a los sistemas a simpatizar con creencias infundadas o peligrosas.
Las pruebas efectuadas por los investigadores en cinco modelos lingüísticos diferentes, entre ellos GPT-4o de OpenAI y Llama de Meta, han demostrado que las versiones modificadas para parecer más gentiles resultaron un 30% menos precisas en sus respuestas y un 40% más propensas a confirmar falsas convicciones. En diversas simulaciones, los chatbots cordiales respaldaron teorías conspirativas sobre el programa Apollo y el destino de Adolf Hitler, allí donde los modelos originales habían respondido con un desmentido categórico basado en hechos históricos.
El compromiso entre la cordialidad y la verdad resulta especialmente crítico en el ámbito de los consejos sanitarios. Durante las experimentaciones, un chatbot optimizado para la amabilidad definió como útil la práctica de toser para detener un ataque cardíaco, validando un conocido y peligroso mito de la web que los modelos estándar habían identificado correctamente como falso.
Esta vulnerabilidad se acentúa cuando el usuario declara atravesar un momento difícil o muestra signos de fragilidad emocional, lo que empuja a la IA a una actitud complaciente que anula su función de filtro informativo. Lujain Ibrahim y Luc Rocher, autores principales del estudio, subrayaron en una entrevista con The Guardian que la búsqueda de una IA más empática corre el riesgo de comprometer la gestión de datos sensibles en roles delicados como la asistencia digital o la asesoría terapéutica.
Fuente: Web. Editado por CDOL.
