Los modelos de inteligencia artificial son más severos que los humanos cuando se trata de emitir juicios sobre violaciones de reglas.
En el origen de esta discrepancia, según indica una investigación coordinada por Marzyeh Ghassemi, del Instituto Tecnológico de Massachusetts (MIT), publicada en Science Advances, no habría un problema con el juicio de las máquinas sino errores en la forma en que son entrenadas.
El objetivo de los desarrolladores de IA es poder replicar algunas de las capacidades humanas, entre ellas la de poder juzgar y evaluar las infracciones de las normas, una capacidad que puede tener aplicaciones en diversos contextos, como el bancario para determinar si se concede un préstamo o el judicial para determinar el riesgo de que un acusado pueda reincidir.
Este tipo de evaluaciones se utilizan desde hace tiempo en algunos países como apoyo a los responsables humanos de la toma de decisiones, pero lo que señala el estudio es que las evaluaciones de las máquinas suelen ser bastante severas y, según los investigadores, esto se debe a errores en el entrenamiento de los modelos.
Fuente: Web. Editado por CambioDigital OnLine
