La IA solo podrá alcanzar niveles superiores de seguridad cuando aprenda a percibir un cuerpo real.
Esta es la conclusión principal de un estudio liderado por Akila Kadambi, de la Universidad de California en Los Ángeles, que ha sido publicado recientemente en la revista Neuron. Los investigadores proponen dotar a la IA de mecanismos de encarnación interna para resolver sus carencias actuales.
Cuando un ser humano realiza una acción cotidiana, como pasar la sal en una mesa, el cerebro ejecuta un proceso mucho más complejo que simplemente reconocer una orden. El individuo recurre a una vida entera de experiencias físicas: la posición de la mano, el tacto del objeto y la conciencia social sobre quién hace la petición. En un instante, el cuerpo y el cerebro trabajan de forma sincronizada.
En la actualidad, la IA carece de esta capacidad. Los sistemas modernos no cuentan con un cuerpo que interactúe con el mundo físico ni con una conciencia interna de sus propios estados, como el cansancio o la incertidumbre. Este conjunto de sensaciones, denominado por los expertos como encarnación interna, es lo que permite a los seres vivos navegar la realidad de manera coherente.
Según los autores del estudio, esta ausencia de memoria interna no solo limita el rendimiento de la IA, sino que supone un riesgo para su seguridad. Marco Iacoboni, investigador de la escuela de medicina David Geffen y coautor del trabajo, señala que sin vínculos internos un sistema de IA no tiene motivos intrínsecos para evitar errores por exceso de confianza o para resistir manipulaciones externas.
La investigación publicada en Neuron sugiere que este obstáculo puede superarse mediante la introducción de una memoria biológica simulada y mecanismos de control estables. El objetivo es que la IA deje de operar únicamente mediante el procesamiento de datos abstractos y comience a desarrollar una lógica basada en la experiencia física, lo que garantizaría un comportamiento más predecible y seguro para los usuarios.
Fuente: Web. Editado por CDOL.
