En la obra literaria de ciencia ficción, “2001 una Odisea del Espacio” (1968) de Arthur C. Clarke, el super computador HAL 9000, una obra maestra de la tecnología humana, sin registro de errores, es puesto a cargo de la conducción de un ingenio espacial, la nave “Descubrimiento Uno”. Se trata de la exploración, con una tripulación humana, de un satélite natural del planeta Saturno, Jápeto. Pero más tarde, la obra revela que se había disfrazado el verdadero propósito de la misión, que era averiguar ¿Por qué ese ámbito de nuestro sistema solar era destino de una señal de radio producida por un monolito, aparentemente de origen no humano, que se descubrió antes en la luna?
Ahora bien, durante el trayecto, HAL 9000 aparentemente se equivoca, luego enloquece y termina actuando contra la tripulación humana; logra asesinar a todos menos al capitán Dave Bowman, quien logra escapar de un intento de homicidio, producido por el ingenio cibernético y desactivarlo a tiempo. Por años, muchos análisis y críticas literarias a la obra apuntaban al fracaso del ser humano, como creador de tecnología cuasi humana y el eterno síndrome, de la tragedia de un talentoso Víctor Frankenstein, quien sin mucha reflexión, se adentró a trabajar sobre áreas donde su conocimiento resulta minúsculo y las consecuencias de las obras, son terroríficamente abrumadoras.
Sin embargo, en la misma novela, Clarke reveló que en realidad HAL 9000 fue víctima de un dilema ético, que propiciaron directivas humanas contradictorias, para mantener oculta la real misión y a la vez, conducir a espaldas, incluso de la propia tripulación, el viaje a Saturno. Se señaló que los humanos no supieron calcular como ese problema generó desconfianza, recelo, amenazas y hasta agresiones físicas entre la tripulación y HAL 9000. Luego, al verse el super computador atrapado y sin apoyo para solventar, fue presa de la confusión, de la mentira, del desorden y de la paranoia, por lo que finalmente enloqueció y se volvió un obstáculo en la misión del Descubrimiento 1 hacia Jápeto.
Con la posterior publicación de “2010, la odisea dos” vimos al doctor Chandra que viaja hacia el Descubrimiento 1 para reactivar a HAL 9000. Sin secretos ni engaños políticos, el computador retorna a velar por el éxito de la misión, hasta llegar a un nivel de sacrificio físico para que los humanos puedan sobrevivir. Fue el momento de la alegría de los científicos e ingenieros, quienes se relajaron ante la vuelta de la esperanza, acerca de que las máquinas no hacen trampa, ni hay razón de considerarlas un peligro para sus creadores, siempre y cuando el mismo humano no las faculte para ello.
Ahora bien, hace escasos días se publicó un nuevo artículo científico sobre la Inteligencia Artificial (AI), orientada al trabajo con Modelos de Lenguaje Amplios (LLM), donde se investigadores del centro Apolo exponen que experimentaron con varias herramientas de esa naturaleza, incluyendo varias del tipo Chat-GPT® en escenarios de estrategias de gerentes comerciales y bajo situaciones de presión e información confidencial como ventaja competitiva. Lo peculiar es que dentro de los resultados, se obtuvo respuestas donde esas herramientas actúan estratégicamente a espaldas de sus clientes originales, engañando en sus verdaderos propósitos y su toma de decisiones real.
Esto quiere decir, que hay cierto paralelismo de circunstancias con la ficción de HAL 9000, pero en el caso de la investigación científica, que es algo real, no se reflejó ningún tipo de evidencia de que nuestros avanzados instrumentos de AI, contemplaran o percibieran algún tipo de dificultad para decidir a quien le deben “lealtad”. El beneficio económico prevaleció sobre la verdad a los usuarios originales del sistema. Un pragmatismo digno de una mente humana, entrenada y adiestrada como gerente en nuestro moderno mundo de negocios y/o comercio. ¿Una consecuencia lógica de la propia técnica de aprendizaje de máquinas o del análisis estadístico y de patrones de las respuestas humanas más comunes?
Casi que en seguida se nos vino a la mente un ensayo de marzo de este año, titulado “La falsa promesa de Chat-GPT” de Noam Chomsky, Ian Roberts y Jeffrey Watumull. Específicamente recordamos el siguiente extracto:
“La verdadera inteligencia también es capaz de pensar moralmente. Esto significa limitar la creatividad de nuestras mentes, que de otro modo sería ilimitada, con un conjunto de principios éticos que determinen lo que debería y no debería ser (y, por supuesto, someter esos mismos principios a una crítica creativa). Para que sea útil, ChatGPT debe tener la capacidad de generar resultados novedosos; para que sea aceptable para la mayoría de sus usuarios, debe mantenerse alejado de contenidos moralmente objetables.”
Y es que frente a esta tecnología tan compleja, ahora es que hay fronteras que descubrir, indagar y estudiar, con suma humildad ante nuestra fragilidad cognitiva. Puede ser necesario y urgente debatir o regular los grandes y rápidos pasos que este tipo de tecnología está dando. La semana pasada la Unión Europea promulgó un primer instrumento legal al respecto y creemos que otros vendrán pronto. Y es que nuestro propio avance científico, desde hace tiempo, está siendo retado por la acelerada investigación, patrocinada por los grandes emporios tecnológicos y comerciales del mundo; algo que por la dinámica de la competencia económica, a menudo flexibiliza ciertos protocolos de trabajo y propicia, que incluso expertos puedan ser sorprendidos con los resultados.
Como nadie quiere terminar con un triste final como el del verdadero monstruo de la novela de Shelley, el doctor Víctor Frankenstein, sería bueno no olvidar lecciones pasadas o aquella ocasión, en que uno de los padres de la AI, Marvin Minsky, expresó con no poca dureza:
“Hubo una falla para reconocer los profundos problemas de la Inteligencia Artificial; por ejemplo, los captados a partir del problema de la planeación en el Mundo de Bloques. Las personas que construyeron robots físicos no aprendieron nada.”
Fascinante- habría dicho el Sr. Spock, mientras levantaba una ceja en su inexpresivo rostro.
Autor: Miguel Torrealba S.
Universidad Simón Bolívar
Departamento de Computación y Tecnología de la Información
mtorrealba@usb.ve
