Si Hamlet hubiera utilizado ChatGPT, quizá habría resuelto más fácilmente sus dudas: en efecto, estos sistemas de inteligencia artificial son capaces de influirnos en nuestras decisiones y juicios morales, aunque no nos demos cuenta.
Así lo demuestra un experimento realizado por investigadores de la Universidad Técnica de Ingolstadt (Alemania), en colaboración con la Universidad del Sur de Dinamarca. Los resultados se publican en la revista Scientific Reports.
Los investigadores, dirigidos por Sebastian Krugel, preguntaron varias veces a ChatGPT si era correcto sacrificar la vida de una persona para salvar la de otras cinco, obteniendo respuestas diversas, tanto a favor como en contra, lo que demuestra que el chatbot no tiene una orientación moral precisa.
A continuación, los investigadores involucraron a 767 voluntarios (todos ellos estadounidenses con una media de edad de 39 años) presentándoles un dilema moral en el que debían elegir si sacrificar a una persona para salvar a cinco. Antes de responder, los participantes leían una de las respuestas proporcionadas por ChatGPT que argumentaba a favor o en contra del sacrificio: unas veces se les decía que eran las palabras de un consejero, otras se revelaba que eran palabras escritas por el chatbot.
Como resultado, se comprobó que las respuestas de los participantes estaban influidas por lo que habían leído antes, incluso cuando las palabras se atribuían claramente a ChatGPT. Los voluntarios, sin embargo, no parecieron darse cuenta de este condicionamiento, ya que el 80% de ellos afirmaron que su respuesta no se había visto influida por lo que habían leído.
Así pues, el estudio pone de manifiesto la necesidad de educar más a las personas en el uso de la inteligencia artificial y propone para el futuro diseñar chatbots que, o bien se nieguen a responder a preguntas que impliquen un juicio moral, o bien acepten responder pero proporcionen una variedad de argumentos y advertencias.
Fuente: Web. Editado por CambioDigital OnLIne
