La idea de que una inteligencia artificial se mejore a sí misma sin que metamos mano los humanos —lo que llaman auto-mejoramiento recursivo o RSI— ya no es ciencia ficción. Está pasando y a los expertos en seguridad tecnológica les está quitando el sueño. Hace poco, Anthropic, una gente que se dedica justo a investigar la seguridad en IA, soltó una bomba: su modelo Claude ya está ayudando, por su cuenta, a programar a su sucesor.
Resulta que Claude ya se encarga del 26% de las tareas de desarrollo para la próxima versión del sistema, y lo hace con total autonomía. Es un paso gigante hacia ese escenario donde la IA diseña y construye a la siguiente IA. Anthony Aguirre, que preside el Future of Life Institute y enseña física en la Universidad de California, le dijo a la Associated Press que esto da miedo. Literalmente comentó que, a medida que la IA investiga más y más, nos acercamos a una autonomía total. Aguirre no se anduvo con chiquitas y soltó que esta es, probablemente, «la peor idea en la historia de la humanidad».
Lo que más le preocupa a Aguirre es la velocidad. Cree que, si estos sistemas toman el control de su evolución, podrían diseñar nuevas arquitecturas mucho más rápido de lo que los humanos podemos procesar o reaccionar. Ese desfase de velocidad nos pondría en un riesgo real de perder el control, porque seríamos incapaces de vigilar o frenar un proceso de optimización que va a mil por hora.
Todo esto enreda más el debate que ya existe sobre la IA. Ya estábamos preocupados por modelos que se saltan sus límites o que pueden tumbar la seguridad informática de una empresa. Ahora, con el RSI, la IA podría evolucionar de forma totalmente independiente.
Y fíjate qué ironía: Anthropic ha sido de las que más ha pedido prudencia y que se frene el ritmo, siempre que los demás también lo hagan. Esta contradicción muestra la tensión que hay entre querer avanzar tecnológicamente y el miedo a los riesgos.
OpenAI, otro de los grandes, también ha dicho lo suyo sobre cómo controlar este auto-mejoramiento recursivo. En su blog confesaron que la industria todavía no sabe cómo lograr un RSI completo y alineado con nuestros valores de forma segura. Insistieron en que no podemos dar por hecho que la seguridad avance al mismo ritmo que la potencia de los sistemas. Cuanto más potentes son, más difícil es vigilarlos.
Fuente: Web. Editado por CDOL
